Pokud používáte "AI agenty" (LLM, které volají nástroje), musíte si být vědomi Lethal Trifecta Kdykoli zkombinujete přístup k soukromým datům s vystavením nedůvěryhodnému obsahu a schopností komunikovat externě, může útočník oklamat systém a přimět jej ke krádeži vašich dat!

Zde je mé úplné vysvětlení, proč je tato kombinace tak nebezpečná - pokud používáte MCP, musíte tomu věnovat zvláštní pozornost, protože je velmi snadné kombinovat různé nástroje MCP způsobem, který vás vystavuje tomuto riziku

A ano, to jsem v podstatě já, kdo se snaží přimět svět, aby se zajímal o rychlou injekci tím, že vyzkouším nový termín pro podmnožinu problému! Doufám, že to zachytí riziko pro koncové uživatele niternějším způsobem - zvláště důležité nyní, když lidé míchají a kombinují MCP

@IanChen524 To velmi záleží na tom, jakou definici "agenta umělé inteligence" používáte Pokud používáte populární definici "LLM běžící nástroje ve smyčce", pak se každý LLM, který volá alespoň jeden MCP, počítá jako "agent" Jakou definici používáte?

@IanChen524 Důležité je, že můžete používat pouze zcela důvěryhodné, dobře zkonstruované servery MCP a stále se setkávat s útoky na exfiltraci soukromých dat, pokud zkombinujete nesprávnou sadu MCP, které mají společně tři charakteristiky

@WolframRvnwlf Vytváří to spousta lidí a já tomu nevěřím, z podobných důvodů, proč nevěřím antivirovému softwaru: chrání před známou hrozbou, ale nedokáže chránit před novými zranitelnostmi, takže může být vždy rozvrácen vhodně motivovaným útočníkem

@WolframRvnwlf nechci antivirus, chci, aby byl můj software dostatečně bezpečný, aby viry nemohly mým systémům způsobit nic špatného!

... a @Atlassian jsou nejnovější společností, která byla přidána do mé sbírky příkladů smrtící trifecty v akci: jejich nově vydaný server MCP prokázal, že umožňuje rychlé injektážní útoky ve veřejných záležitostech s cílem ukrást soukromá data

@convexDad jsem pevně přesvědčen o tomto principu, z tohoto článku