Tendencias del momento
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Si utilizas "agentes de IA" (modelos de lenguaje que llaman a herramientas) debes ser consciente de la Trifecta Letal.
Cada vez que combines el acceso a datos privados con la exposición a contenido no confiable y la capacidad de comunicarte externamente, ¡un atacante puede engañar al sistema para robar tus datos!

Aquí está mi explicación completa de por qué esta combinación es tan peligrosa: si estás utilizando MCP, necesitas prestar especial atención porque es muy fácil combinar diferentes herramientas de MCP de una manera que te expone a este riesgo.
Y sí, esto es efectivamente un intento de hacer que el mundo se preocupe por la inyección de prompts al probar un nuevo término para un subconjunto del problema.
Espero que esto capture el riesgo para los usuarios finales de una manera más visceral, lo cual es particularmente importante ahora que la gente está combinando y mezclando MCP.
@IanChen524 Eso depende mucho de qué definición de "agente de IA" estés utilizando.
Si estás utilizando la popular definición de "un LLM ejecutando herramientas en un bucle", entonces cualquier LLM que llame al menos a un MCP cuenta como un "agente".
¿Qué definición usas?
@IanChen524 Es importante que solo puedes usar servidores MCP completamente confiables y bien construidos y aún así enfrentar ataques de exfiltración de datos privados si combinas el conjunto incorrecto de MCPs que, juntos, tienen las tres características.
@WolframRvnwlf Mucha gente ha estado construyendo eso y no confío en ello, por razones similares a las que no confío en el software antivirus: defiende contra amenazas conocidas pero no protege contra nuevas vulnerabilidades, por lo que siempre puede ser subvertido por un atacante debidamente motivado.
@WolframRvnwlf No quiero antivirus, ¡quiero que mi software sea lo suficientemente seguro como para que los virus no puedan hacer nada malo a mis sistemas!
... y @Atlassian son la última empresa que se añade a mi colección de ejemplos de la trifecta letal en acción: su recién lanzado servidor MCP ha demostrado permitir ataques de inyección de comandos en problemas públicos para robar datos privados.
@convexDad Soy un firme creyente en este principio, de este artículo.

576,6K
Parte superior
Clasificación
Favoritos