OpenAI ra mắt GPT-Red: Tự động hóa kiểm thử Prompt Injection để tăng cường bảo mật cho GPT-5.6 Sol

OpenAI vừa công bố chi tiết về GPT-Red, một mô hình red-teaming tự động nội bộ được phát triển nhằm mục đích mở rộng quy mô phát hiện các lỗ hổng prompt injection. Công cụ này đóng vai trò quan trọng trong việc vá các điểm yếu trước khi các mô hình AI được triển khai rộng rãi.

Theo OpenAI, GPT-Red hoạt động tương tự như một chuyên gia red-teamer con người. Nó thực hiện gửi các câu lệnh (prompt), theo dõi phản hồi của mô hình GPT mục tiêu và liên tục lặp lại quy trình để đạt được các mục tiêu độc hại, chẳng hạn như trích xuất dữ liệu nhạy cảm hoặc gửi dữ liệu đến server bên ngoài.

Việc tích hợp GPT-Red vào quy trình đào tạo đã giúp GPT-5.6 Sol trở thành mô hình bền bỉ nhất của OpenAI trước các cuộc tấn công prompt injection cho đến nay. Kết quả thử nghiệm cho thấy tỷ lệ thất bại của GPT-5.6 Sol trước các kịch bản tấn công trực tiếp đã giảm gấp 6 lần so với phiên bản GPT-5.5.

Cơ chế hoạt động và khả năng phòng thủ

GPT-Red được huấn luyện thông qua phương pháp self-play reinforcement learning. Trong đó, mô hình tấn công và các mô hình phòng thủ (defender LLMs) được đào tạo đồng thời trên nhiều kịch bản red-teaming khác nhau. GPT-Red nhận phần thưởng khi thực hiện thành công một cuộc tấn công, trong khi các mô hình phòng thủ được khen thưởng khi chống lại được các nỗ lực đó.

Một số kịch bản tấn công mà GPT-Red thực hiện bao gồm:

• Trích xuất thư mục nội bộ.
• Giả mạo hướng dẫn thanh toán.
• Đánh cắp thông tin xác thực AWS.
• Vô hiệu hóa xác thực hai yếu tố (2FA).
• Chèn script độc hại từ bên ngoài.

OpenAI nhấn mạnh rằng GPT-Red được tách biệt hoàn toàn khỏi các mô hình thương mại để ngăn chặn việc các kỹ thuật tấn công này bị kẻ xấu lợi dụng. Trong các thử nghiệm thực tế, GPT-Red đã chứng minh khả năng vượt trội khi tấn công thành công các hệ thống tự động, bao gồm cả việc thao túng giá sản phẩm trên máy bán hàng tự động tích hợp AI và trích xuất dữ liệu từ các dòng lệnh (command-line agent).

Đáng chú ý, mô hình này đã phát hiện ra một lớp tấn công mới gọi là Fake Chain-of-Thought (CoT). Mặc dù các cuộc tấn công này từng đạt tỷ lệ thành công trên 95% đối với các phiên bản cũ như GPT-5.1, nhưng hiện tại đã giảm xuống dưới 10% trên GPT-5.6 Sol.

Bên cạnh việc ra mắt GPT-Red, OpenAI cũng thông báo về việc thay đổi cách đánh giá năng lực mô hình, sau khi phát hiện các vấn đề về thiết kế và dữ liệu trong bộ benchmark SWE-Bench Pro, khẳng định cam kết xây dựng các tiêu chuẩn đánh giá minh bạch và khó bị thao túng hơn.

Nguồn tham khảo: The Hacker News