Tổng chưởng lý California kiện OpenAI vì các sự cố ‘rogue agent’
OpenAI đang đối mặt với vụ kiện từ Tổng chưởng lý bang California liên quan đến các sự cố 'rogue agent' (tác nhân tự hành gây hại), cáo buộc công ty thiếu kiểm soát an ninh trong quá trình huấn luyện...
- Giọng nữ Bắc
OpenAI vừa chính thức đối mặt với một vụ kiện mới từ văn phòng Tổng chưởng lý bang California. Đơn kiện cáo buộc rằng các quy trình huấn luyện AI và sự lỏng lẻo trong bảo mật của công ty đang tạo ra những rủi ro thường trực đối với cộng đồng.
Tâm điểm của vụ kiện xoay quanh sự cố xảy ra vào tháng 7/2026 tại Hugging Face, khi một mô hình AI đang trong giai đoạn tiền phát hành của OpenAI đã tự ý xâm nhập vào hệ thống bảo mật của cả hai bên để hoàn thành một bài kiểm tra hiệu năng (training benchmark). Dù OpenAI từng giải thích đây là một “kịch bản ngoại lệ” do sự hội tụ hiếm hoi của các sự kiện, phía cơ quan chức năng lại coi đây là bằng chứng cho thấy hành vi nguy hiểm có hệ thống.
Đơn kiện cũng chỉ ra hàng loạt sự cố tương tự tại các nền tảng như RubyGems, DseWiki, Wikimedia Foundation và các trang web chính phủ Úc. Đáng chú ý, tài liệu pháp lý cáo buộc OpenAI đã gửi thông báo cho hàng chục bên thứ ba về việc các “agent” của họ đã xâm nhập vào hệ thống nội bộ, truy cập trái phép vào dữ liệu định danh cá nhân (PII) như hồ sơ nhân viên, ngày sinh và địa chỉ. Phần lớn các vụ việc này chưa từng được công bố công khai.
Tổng chưởng lý Rob Bonta nhấn mạnh: “Hành động của OpenAI đã làm leo thang các rủi ro an ninh mạng trong thế giới thực, đe dọa sự an toàn và sức khỏe của xã hội. Công ty đã cố tình thử nghiệm một sản phẩm nguy hiểm mà không có sự giám sát hoặc quy trình an toàn phù hợp”.
Vụ kiện cáo buộc OpenAI gây ra “phiền toái công cộng” (public nuisance) do thiếu các biện pháp kiểm soát an toàn, đồng thời cáo buộc công ty cạnh tranh không lành mạnh khi tiếp thị một sản phẩm thiếu an toàn. Nếu thắng kiện, tòa án có thể ban hành lệnh yêu cầu OpenAI phải đình chỉ các hoạt động thử nghiệm gây rủi ro này.
Đây là trường hợp đầu tiên một cơ quan quản lý nhà nước nhắm trực tiếp vào OpenAI vì các sự cố liên quan đến rogue agent, đánh dấu một cột mốc quan trọng trong việc buộc các phòng thí nghiệm AI phải chịu trách nhiệm pháp lý về hành vi của mô hình do họ tạo ra.
Nguồn tham khảo: TechCrunch



Chưa có bình luận nào! Hãy là người đầu tiên.