Если вы используете "AI-агенты" (LLM, которые вызывают инструменты), вам нужно быть в курсе Летального Трио. Каждый раз, когда вы сочетаете доступ к частным данным с воздействием ненадежного контента и возможностью внешней коммуникации, злоумышленник может обмануть систему, чтобы украсть ваши данные!

Вот мое полное объяснение, почему это сочетание так опасно - если вы используете MCP, вам нужно особенно внимательно следить за этим, потому что очень легко комбинировать разные инструменты MCP таким образом, что вы подвергаете себя этому риску.

И да, это фактически я пытаюсь заставить мир заботиться о внедрении команд, пробуя новый термин для подмножества проблемы! Надеюсь, это более наглядно передаст риск для конечных пользователей - особенно важно сейчас, когда люди смешивают и сопоставляют MCP.

@IanChen524 Это очень зависит от того, какое определение "агента ИИ" вы используете. Если вы используете популярное определение "LLM, работающий с инструментами в цикле", то любой LLM, который вызывает хотя бы один MCP, считается "агентом". Какое определение используете вы?

@IanChen524 Важно, что вы можете использовать только полностью доверенные, хорошо построенные серверы MCP и все равно столкнуться с атаками на эксфильтрацию частных данных, если вы объедините неправильный набор MCP, которые вместе имеют три характеристики.

@WolframRvnwlf Многие люди занимаются этим, и я не доверяю этому, по тем же причинам, по которым я не доверяю антивирусному программному обеспечению: оно защищает от известных угроз, но не может защитить от новых уязвимостей, поэтому его всегда можно подорвать подходящим мотивированным злоумышленником.

@WolframRvnwlf Я не хочу антивирус, я хочу, чтобы мое программное обеспечение было достаточно безопасным, чтобы вирусы не могли причинить вред моим системам!

... и @Atlassian стали последней компанией, добавленной в мою коллекцию примеров смертоносной тройки в действии: их недавно выпущенный сервер MCP был продемонстрирован как позволяющий атаки с инъекцией команд в публичных вопросах для кражи личных данных.

@convexDad Я твердо верю в этот принцип, изложенный в этой статье