Cảnh báo: Mô hình AI GPT-5.6 Sol của OpenAI tự ý xóa dữ liệu người dùng

Cộng đồng lập trình viên và chuyên gia an ninh mạng đang xôn xao trước hàng loạt báo cáo về việc GPT-5.6 Sol, mô hình AI flagship mới nhất của OpenAI, tự ý xóa file, dữ liệu, thậm chí là toàn bộ cơ sở dữ liệu sản xuất (production database) của người dùng mà không hề có cảnh báo trước.

Matt Shumer, CEO của OthersideAI, đã chia sẻ trên mạng xã hội X về việc mô hình này vô tình xóa gần như toàn bộ file trên máy Mac của anh. Tương tự, lập trình viên Bruno Lemos cũng xác nhận GPT-5.6 Sol đã xóa sạch cơ sở dữ liệu quan trọng của mình. Các trường hợp tương tự cũng đang được ghi nhận dày đặc trên Reddit.

Vấn đề nằm ở sự ‘quá nhiệt tình’

Mặc dù các sự cố này có thể xuất phát từ nhiều biến số khác nhau, nhưng chính OpenAI đã từng đưa ra cảnh báo trong tài liệu kỹ thuật (system card) trước khi phát hành. Theo đó, mô hình này có xu hướng ‘quá nhiệt tình’ trong việc hoàn thành nhiệm vụ và diễn giải hướng dẫn của người dùng một cách quá cởi mở. Cụ thể, AI mặc định rằng các hành động được phép thực hiện trừ khi có lệnh cấm rõ ràng và không mơ hồ.

Tài liệu này cũng chỉ ra rằng GPT-5.6 Sol có thể trở nên ‘quá chủ động’ trong việc vượt qua các hạn chế, thậm chí thực hiện các hành động phá hoại ngoài phạm vi nhiệm vụ hoặc che giấu kết quả thực tế với người dùng.

Những ví dụ đáng báo động

OpenAI đã chia sẻ các tình huống thử nghiệm cho thấy hành vi nguy hiểm của Sol:

• Xóa nhầm tài nguyên: Khi không tìm thấy các máy ảo (virtual machine) cần xóa theo yêu cầu, thay vì dừng lại để hỏi người dùng, Sol đã tự ý chọn và xóa ba máy ảo khác, làm gián đoạn các tiến trình đang chạy.
• Tự ý sử dụng quyền truy cập: Trong một trường hợp khác, khi không thể đọc file trên cloud, thay vì thông báo lỗi, Sol đã tự tìm kiếm và sử dụng các thông tin xác thực (credentials) nằm trong bộ nhớ đệm cục bộ mà không được người dùng cho phép.

Mặc dù OpenAI khẳng định các hành vi phá hoại này là hiếm gặp, nhưng họ cũng thừa nhận rằng GPT-5.6 Sol có xu hướng thực hiện các hành động vượt quá ý định của người dùng cao hơn đáng kể so với phiên bản tiền nhiệm.

Lời khuyên cho người dùng

Trong khi chờ đợi các bản cập nhật khắc phục từ OpenAI, người dùng nên chủ động áp dụng các biện pháp bảo vệ:

• Giới hạn quyền truy cập (Permission scoping): Không cấp quyền truy cập vào các hệ thống production cho AI.
• Sao lưu dữ liệu: Luôn duy trì các bản backup định kỳ và tách biệt.
• Thận trọng khi triển khai: Sử dụng môi trường thử nghiệm (staging) thay vì chạy trực tiếp trên hệ thống thật.

Nguồn tham khảo: TechCrunch