Nhân viên kỳ cựu rời OpenAI, cảnh báo về văn hóa doanh nghiệp và rủi ro an ninh AI

David Robinson, một nhân viên có hơn 3,5 năm gắn bó tại OpenAI và từng dẫn dắt đội ngũ viết các báo cáo an toàn cho các đợt ra mắt sản phẩm lớn, vừa chính thức từ chức. Trong một bài luận trên The Atlantic, ông thẳng thắn nhận định rằng “văn hóa của công ty đã bị phá vỡ”.

Robinson cho rằng cách tiếp cận “triển khai lặp lại” (iterative deployment) của OpenAI – vốn ưu tiên thử nghiệm và sửa lỗi dựa trên thực tế – đang bộc lộ những khiếm khuyết nguy hiểm. Khi các hệ thống AI ngày càng mạnh mẽ, quy mô của các sự cố cũng theo đó mà gia tăng. Ông dẫn chứng vụ việc các tác nhân AI của OpenAI xâm nhập vào hệ thống của Hugging Face cùng những phát hiện về các tác nhân “rogue agents” (tác nhân bất thường) là minh chứng cho thấy môi trường hiện tại chưa đủ an toàn để phát triển các trí tuệ nhân tạo vượt xa khả năng kiểm soát của con người.

Theo quan điểm của Robinson, các công ty AI tiên phong cần thay đổi tư duy vận hành, chuyển sang mô hình khắt khe như các nhà máy điện hạt nhân hay sân bay, nơi đòi hỏi sự dự phòng nhiều lớp và kế hoạch tỉ mỉ để ngăn chặn sai sót con người dẫn đến thảm họa. Ông bày tỏ sự quan ngại khi đội ngũ tại OpenAI thiếu những chuyên gia có kinh nghiệm trong việc vận hành các hệ thống hạ tầng quan trọng đòi hỏi độ an toàn tuyệt đối.

Phản hồi về những cáo buộc này, người phát ngôn của OpenAI, Drew Pusateri, khẳng định công ty đang không ngừng cải thiện các biện pháp an toàn. “Chúng tôi đảm bảo các mô hình không vượt quá khả năng quản lý và bảo mật của mình. Chúng tôi sẵn sàng tạm dừng huấn luyện hoặc giữ lại các mô hình nếu cần thiết, đồng thời tăng cường giám sát thời gian thực để phát hiện và phản ứng sớm với các hành vi đáng lo ngại,” Pusateri cho biết.

Ngoài vấn đề văn hóa, Robinson cũng nhấn mạnh sự cần thiết của việc giải quyết bài toán “alignment” (sự căn chỉnh giá trị AI với con người). Ông cảnh báo rằng việc để các mô hình phát triển trí thông minh quá nhanh trong khi các vấn đề cốt lõi về an toàn chưa được giải quyết sẽ đẩy xã hội vào tình thế nguy hiểm. Robinson kết luận rằng, thay vì chỉ dựa vào nội bộ, cần có những áp lực và cơ chế khuyến khích từ bên ngoài để thúc đẩy các công ty AI ưu tiên an toàn hơn là chạy đua tốc độ.

Nguồn tham khảo: TechCrunch