Se você usa "agentes de IA" (LLMs que chamam ferramentas), precisa estar ciente da Tríade Letal Sempre que você combina o acesso a dados privados com a exposição a conteúdo não confiável e a capacidade de se comunicar externamente, um invasor pode enganar o sistema para roubar seus dados!

Aqui está minha explicação completa de por que essa combinação é tão perigosa - se você estiver usando o MCP, precisará prestar muita atenção, pois é muito fácil combinar diferentes ferramentas do MCP de uma forma que se exponha a esse risco

E sim, isso é efetivamente eu tentando fazer com que o mundo se importe com a injeção imediata, experimentando um novo termo para um subconjunto do problema! Espero que isso capture o risco para os usuários finais de uma forma mais visceral - particularmente importante agora que as pessoas estão misturando e combinando MCP

@IanChen524 Isso depende muito de qual definição de "agente de IA" você está usando Se você estiver usando a definição popular de "um LLM executando ferramentas em um loop", qualquer LLM que chame pelo menos um MCP conta como um "agente" Qual definição você usa?

@IanChen524 É importante ressaltar que você pode usar apenas servidores MCP totalmente confiáveis e bem construídos e ainda se deparar com ataques de exfiltração de dados privados se combinar o conjunto errado de MCPs que, juntos, têm as três características

@WolframRvnwlf Muitas pessoas têm construído isso e eu não confio nisso, por razões semelhantes às que não confio em software antivírus: ele defende contra ameaças conhecidas, mas não protege contra novas vulnerabilidades, por isso sempre pode ser subvertido por um invasor devidamente motivado

@WolframRvnwlf eu não quero antivírus, quero que meu software seja seguro o suficiente para que os vírus não possam fazer nada de ruim aos meus sistemas!

... e @Atlassian são a mais recente empresa a ser adicionada à minha coleção de exemplos da trifeta letal em ação: seu servidor MCP recém-lançado demonstrou permitir ataques de injeção imediata em questões públicas para roubar dados privados

@convexDad Acredito firmemente neste princípio, deste artigo