Hvis du bruker "AI-agenter" (LLM-er som kaller verktøy), må du være klar over Lethal Trifecta Hver gang du kombinerer tilgang til private data med eksponering for upålitelig innhold og muligheten til å kommunisere eksternt, kan en angriper lure systemet til å stjele dataene dine!

Her er min fullstendige forklaring på hvorfor denne kombinasjonen er så farlig - hvis du bruker MCP, må du være spesielt oppmerksom fordi det er veldig enkelt å kombinere forskjellige MCP-verktøy på en måte som utsetter deg selv for denne risikoen

Og ja, dette er faktisk jeg som prøver å få verden til å bry seg om rask injeksjon ved å prøve ut et nytt begrep for en delmengde av problemet! Jeg håper dette fanger opp risikoen for sluttbrukere på en mer visceral måte - spesielt viktig nå som folk blander og matcher MCP

@IanChen524 Det avhenger veldig av hvilken definisjon av "AI-agent" du bruker Hvis du bruker den populære definisjonen "en LLM som kjører verktøy i en løkke", teller enhver LLM som kaller minst én MCP som en "agent" Hvilken definisjon bruker du?

@IanChen524 Det er viktig at du bare kan bruke helt pålitelige, godt konstruerte MCP-servere og fortsatt støte på private dataeksfiltreringsangrep hvis du kombinerer feil sett med MCP-er som sammen har de tre egenskapene

@WolframRvnwlf Mange mennesker har bygget det, og jeg stoler ikke på det, av lignende grunner som jeg ikke stoler på antivirusprogramvare: det forsvarer mot kjent trussel, men klarer ikke å beskytte mot nye sårbarheter, så det kan alltid undergraves av en passende motivert angriper

@WolframRvnwlf jeg ikke vil ha antivirus, vil jeg at programvaren min skal være sikker nok til at virus ikke kan gjøre noe dårlig med systemene mine!

... og @Atlassian er det siste selskapet som er lagt til min samling av eksempler på den dødelige trifectaen i aksjon: deres nylig utgitte MCP-server har vist seg å tillate raske injeksjonsangrep i offentlige utgaver for å stjele private data

@convexDad Jeg tror fullt og fast på dette prinsippet, fra denne artikkelen