Si vous utilisez des "agents IA" (LLMs qui appellent des outils), vous devez être conscient du Trifecta Mortel. Chaque fois que vous combinez l'accès à des données privées avec l'exposition à du contenu non fiable et la capacité de communiquer à l'extérieur, un attaquant peut tromper le système pour voler vos données !

Voici mon explication complète sur pourquoi cette combinaison est si dangereuse - si vous utilisez MCP, vous devez faire particulièrement attention car il est très facile de combiner différents outils MCP d'une manière qui vous expose à ce risque.

Et oui, c'est effectivement moi qui essaie de faire en sorte que le monde se soucie de l'injection de prompt en essayant un nouveau terme pour un sous-ensemble du problème ! J'espère que cela capture le risque pour les utilisateurs finaux de manière plus viscérale - particulièrement important maintenant que les gens mélangent et assortissent les MCP.

@IanChen524 Cela dépend beaucoup de la définition de "l'agent IA" que vous utilisez. Si vous utilisez la définition populaire "un LLM exécutant des outils en boucle", alors tout LLM qui appelle au moins un MCP compte comme un "agent". Quelle définition utilisez-vous ?

@IanChen524 Il est important de noter que vous pouvez utiliser uniquement des serveurs MCP entièrement fiables et bien construits et rencontrer tout de même des attaques d'exfiltration de données privées si vous combinez le mauvais ensemble de MCP qui, ensemble, possèdent les trois caractéristiques.

@WolframRvnwlf Beaucoup de gens ont travaillé là-dessus et je ne lui fais pas confiance, pour des raisons similaires à celles pour lesquelles je ne fais pas confiance aux logiciels antivirus : ils se défendent contre des menaces connues mais échouent à protéger contre de nouvelles vulnérabilités, donc ils peuvent toujours être contournés par un attaquant suffisamment motivé.

@WolframRvnwlf Je ne veux pas d'antivirus, je veux que mon logiciel soit suffisamment sécurisé pour que les virus ne puissent rien faire de mal à mes systèmes !

... et @Atlassian est la dernière entreprise à être ajoutée à ma collection d'exemples de la trifecta létale en action : leur nouveau serveur MCP récemment publié a été démontré comme permettant des attaques par injection de commandes dans des problèmes publics pour voler des données privées.

@convexDad Je crois fermement en ce principe, tiré de cet article.