Nếu bạn sử dụng "các tác nhân AI" (LLMs gọi công cụ) bạn cần phải nhận thức về Tam giác Chết Người Bất cứ khi nào bạn kết hợp quyền truy cập vào dữ liệu riêng tư với việc tiếp xúc với nội dung không đáng tin cậy và khả năng giao tiếp bên ngoài, một kẻ tấn công có thể lừa hệ thống để đánh cắp dữ liệu của bạn!

Đây là giải thích đầy đủ của tôi về lý do tại sao sự kết hợp này lại nguy hiểm đến vậy - nếu bạn đang sử dụng MCP, bạn cần phải chú ý đặc biệt vì rất dễ kết hợp các công cụ MCP khác nhau theo cách mà khiến bạn phải đối mặt với rủi ro này.

Và vâng, đây thực sự là tôi đang cố gắng khiến thế giới quan tâm đến việc tiêm lệnh bằng cách thử nghiệm một thuật ngữ mới cho một phân nhóm của vấn đề! Tôi hy vọng điều này sẽ nắm bắt được rủi ro đối với người dùng cuối một cách rõ ràng hơn - điều này đặc biệt quan trọng bây giờ khi mọi người đang kết hợp và pha trộn MCP.

@IanChen524 Điều đó phụ thuộc rất nhiều vào định nghĩa "đại lý AI" mà bạn đang sử dụng. Nếu bạn đang sử dụng định nghĩa phổ biến "một LLM chạy các công cụ trong một vòng lặp" thì bất kỳ LLM nào gọi ít nhất một MCP đều được coi là "đại lý". Bạn đang sử dụng định nghĩa nào?

@IanChen524 Quan trọng là, bạn chỉ có thể sử dụng các máy chủ MCP hoàn toàn đáng tin cậy, được xây dựng tốt và vẫn gặp phải các cuộc tấn công rò rỉ dữ liệu cá nhân nếu bạn kết hợp sai bộ MCP mà, cùng nhau, có ba đặc điểm.

@WolframRvnwlf Nhiều người đã xây dựng điều đó và tôi không tin tưởng nó, vì những lý do tương tự như lý do tôi không tin tưởng phần mềm diệt virus: nó bảo vệ chống lại các mối đe dọa đã biết nhưng không thể bảo vệ chống lại các lỗ hổng mới, vì vậy nó luôn có thể bị xâm phạm bởi một kẻ tấn công có động cơ phù hợp.

@WolframRvnwlf Tôi không muốn phần mềm diệt virus, tôi muốn phần mềm của mình đủ an toàn để virus không thể làm hại hệ thống của tôi!

... và @Atlassian là công ty mới nhất được thêm vào bộ sưu tập ví dụ về bộ ba chết người đang hoạt động: máy chủ MCP mới được phát hành của họ đã được chứng minh cho phép các cuộc tấn công tiêm lệnh trong các vấn đề công khai để đánh cắp dữ liệu riêng tư.

@convexDad Tôi là một người tin tưởng vững chắc vào nguyên tắc này, từ tài liệu này