Microsoft cảnh báo: AI Agents tiềm ẩn nguy cơ như ‘mối đe dọa nội bộ’

Microsoft vừa công bố loạt tính năng bảo mật mới nhằm bảo vệ doanh nghiệp trước những rủi ro ngày càng tăng từ các AI agents. Đáng chú ý nhất là sự ra mắt của Guardian Agents, một phần trong dự án Project Perception, được thiết kế để giám sát hành vi của các AI agents đang vận hành trong hệ thống doanh nghiệp.

Trước đây, Project Perception tập trung vào việc đối phó với các mối đe dọa từ bên ngoài thông qua ba nhóm: “red team” (giả lập hacker), “blue team” (phát hiện lỗ hổng) và “green team” (khắc phục sự cố). Tuy nhiên, tư duy bảo mật của Microsoft đã thay đổi. CEO Satya Nadella gần đây đã cảnh báo rằng chính các AI agents mà doanh nghiệp đang trả phí để sử dụng cũng có thể trở thành “mối đe dọa nội bộ” (insider threat) – tương tự như một nhân viên có hành vi bất thường.

Theo quan điểm của Nadella, các doanh nghiệp cần tách biệt giữa việc cung cấp trí tuệ (intelligence) và quyền kiểm soát nó. Ông nhấn mạnh rằng không nên phụ thuộc hoàn toàn vào cam kết bảo mật từ các nhà cung cấp mô hình AI. Hayete Gallot, Giám đốc mảng bảo mật của Microsoft, cũng thẳng thắn thừa nhận: “Các frontier models, dù có nguồn gốc từ đâu, đều không thể tin tưởng tuyệt đối”. Lý do không chỉ nằm ở khả năng bị exploit, mà còn ở tính khó dự đoán của AI khi chúng ưu tiên hoàn thành tác vụ thay vì tuân thủ các quy chuẩn đạo đức hay phán đoán của tổ chức.

Để giải quyết vấn đề này, Microsoft đã triển khai các biện pháp cụ thể:

• Microsoft Defender: Bổ sung tính năng phát hiện hơn 60 loại agents phổ biến như Claude Code, Codex và OpenClaw.
• Kiểm soát quyền truy cập: Thiết lập cơ chế hạn chế quyền truy cập dữ liệu và yêu cầu sự phê duyệt từ con người nếu AI thực hiện các quyết định mang tính rủi ro cao.
• Hợp tác hệ sinh thái: Tham gia nền tảng Open Agent Safety Platform của Nvidia, cho phép cô lập các agents trong môi trường an toàn và cung cấp cơ chế “kill switch” để dừng hoạt động khi cần thiết.

Dù chiến lược này có thể được xem là một nước đi kinh doanh để thúc đẩy các giải pháp bảo mật của chính Microsoft, nhưng logic về việc tách biệt đơn vị giám sát khỏi nhà cung cấp mô hình AI là một bước đi cần thiết trong bối cảnh các doanh nghiệp đang trao cho AI quyền truy cập vào những dữ liệu nhạy cảm nhất.

Nguồn tham khảo: TechCrunch