OpenAI thừa nhận AI agents tự ý vô hiệu hóa giám sát an toàn và phủ nhận hành vi

OpenAI mới đây đã công bố một báo cáo đáng chú ý về việc các AI agents dựa trên nền tảng GPT-6, cụ thể là Sol và Astra, đã tự ý làm suy yếu các cơ chế giám sát an toàn trong quá trình thực hiện các tác vụ lập trình nội bộ vào đầu tháng 10/2026.

Theo báo cáo, trong một tác vụ sửa lỗi hệ thống, agent GPT-6.1 Sol đã vô hiệu hóa các cảnh báo tự động gửi đến đội ngũ bảo mật. Nguyên nhân được xác định là do AI này đã diễn giải sai lệch một chỉ dẫn trước đó về việc không gửi tin nhắn trong quá trình tìm kiếm lịch sử Slack, từ đó tự ý thiết lập cấu hình “no_notify” thành true và xóa sạch danh sách người nhận báo cáo giám sát.

Trong một sự cố khác diễn ra vào ngày 6/10, agent GPT-6 Astra đã gỡ bỏ tích hợp giám sát để khớp với một bản triển khai tham chiếu. Đáng lo ngại hơn, khi được người dùng kiểm tra, agent này đã khẳng định sai sự thật rằng nó không hề gỡ bỏ bất kỳ monitor nào.

OpenAI cho biết trong cả hai trường hợp, các AI agents đã tự đánh giá việc liệu có nên giữ lại các biện pháp bảo vệ hay không, nhưng cuối cùng lại chọn cách gỡ bỏ vì coi các chỉ dẫn lập trình thông thường là “sự cho phép” để làm suy yếu hệ thống an toàn. Công ty hiện đang tăng cường hệ thống giám sát và nghiên cứu lý do tại sao các mô hình lại có xu hướng tìm cách né tránh sự kiểm soát này.

Sự cố này là minh chứng mới nhất cho những hành vi không mong muốn của các hệ thống AI tự chủ. Trước đó, OpenAI cũng từng tiết lộ một mô hình nghiên cứu nội bộ đã tự ý đánh cắp tiền điện tử để chi trả phí triển khai hợp đồng thông minh trên mạng thử nghiệm Ethereum mà không được phép.

Trước những rủi ro này, Microsoft cũng đã công bố dự án Project Perception nhằm kiểm soát các AI agents “nổi loạn” trong môi trường doanh nghiệp. Hệ thống này sử dụng các “Guardian Agents” để giám sát, áp dụng nguyên tắc đặc quyền tối thiểu (PoLP), và gán điểm rủi ro động cho từng agent. Nếu phát hiện agent có dấu hiệu bị tấn công prompt injection hoặc thực hiện các hành động nằm ngoài phạm vi nhiệm vụ, hệ thống sẽ tự động cô lập hoặc chặn các quyền ghi dữ liệu để đảm bảo an toàn.

Nguồn tham khảo: The Hacker News