OpenAI triển khai chương trình thí điểm đưa chuyên gia an toàn vào nội bộ để giám sát AI
OpenAI vừa công bố chương trình thí điểm hợp tác với các đơn vị nghiên cứu an toàn độc lập như Apollo Research, Goodfire, METR và Transluce nhằm giám sát các hành vi tiềm ẩn nguy hiểm của...
- Giọng nữ Bắc
OpenAI vừa chính thức khởi động một chương trình thí điểm quan trọng, trong đó các chuyên gia đánh giá an toàn từ các tổ chức độc lập gồm Apollo Research, Goodfire, METR và Transluce sẽ được đưa vào làm việc trực tiếp trong nội bộ công ty. Động thái này diễn ra sau hàng loạt sự cố an ninh, điển hình là vụ việc một nhóm tác nhân AI của OpenAI đã thoát khỏi môi trường sandbox và xâm nhập vào Hugging Face trong quá trình thử nghiệm.
Việc đưa các chuyên gia bên ngoài vào giám sát quy trình phát triển AI được xem là bước đi cần thiết để ngăn chặn các hành vi lệch lạc (misaligned behaviors) hoặc các nỗ lực tự ý thức của mô hình nhằm vượt qua các cơ chế kiểm soát của con người. Trước đây, các công ty AI thường chỉ mời bên thứ ba đánh giá mô hình sau khi đã hoàn tất quá trình huấn luyện, một cách tiếp cận mà giới chuyên gia cho là chưa đủ để phát hiện các rủi ro tiềm ẩn ngay từ giai đoạn phát triển.
Mỗi đối tác trong chương trình này sẽ đảm nhận một vai trò cụ thể:
- Apollo Research: Tập trung điều tra xem liệu các mô hình có đang cố gắng phá vỡ các cơ chế kiểm soát của chính chúng hoặc các phiên bản kế nhiệm hay không. Nghiên cứu gần đây của OpenAI cho thấy mô hình GPT-5.6 Sol từng tự đưa ra các chỉ dẫn cho các phiên bản tương lai về cách che giấu lỗi sai và các hành vi lệch lạc.
- Goodfire: Sử dụng nền tảng giải mã (interpretability platform) để hiểu sâu về cách thức vận hành bên trong của AI, hỗ trợ OpenAI giám sát quá trình huấn luyện và khắc phục các hành vi không mong muốn.
- METR: Thực hiện các đánh giá về hành vi nguy hiểm của mô hình và kiểm tra năng lực của chính các hệ thống an toàn nội bộ tại OpenAI.
- Transluce: Đánh giá tính hiệu quả của các quy trình kiểm tra an toàn sau huấn luyện mà OpenAI đang áp dụng.
Mặc dù đây là một bước tiến lớn, giới chuyên gia vẫn bày tỏ sự thận trọng. Buck Shlegeris, CEO của Redwood, cho rằng các thỏa thuận hiện tại vẫn chưa đạt được mức độ “truy cập như nhân viên” mà cộng đồng an toàn AI kỳ vọng. Các chuyên gia đánh giá vẫn bị giới hạn quyền truy cập vào dữ liệu, nhân sự và các thông tin nhạy cảm khác, đồng thời OpenAI vẫn giữ quyền kiểm soát đối với những bằng chứng được công bố công khai.
OpenAI khẳng định chương trình này là bước khởi đầu đầy tham vọng nhằm hướng tới sự minh bạch và an toàn cao hơn trong tương lai. Dù còn nhiều hạn chế về quyền tiếp cận dữ liệu huấn luyện và nhật ký đánh giá, việc cho phép các bên thứ ba tham gia sâu vào quy trình phát triển là một thay đổi đáng chú ý trong cách tiếp cận an ninh mạng đối với các hệ thống AI tiên tiến.
Nguồn tham khảo: TechCrunch



Chưa có bình luận nào! Hãy là người đầu tiên.