OpenAI sắp ra mắt mô hình Astra: Bước tiến mới trong khả năng tự động khai thác lỗ hổng hệ thống

OpenAI vừa hé lộ những thông tin quan trọng về mô hình Astra sắp ra mắt. Đây được xem là mô hình ngôn ngữ lớn (LLM) đầu tiên vượt qua ngưỡng đánh giá về an ninh mạng của công ty. Theo thông báo từ blog chính thức, OpenAI dự kiến sớm phát hành Astra, tuy nhiên quyền truy cập vào các tính năng an ninh mạng nâng cao sẽ bị giới hạn nghiêm ngặt.

Đáng chú ý, OpenAI khẳng định Astra có khả năng tự động tìm kiếm các lỗ hổng bảo mật chưa được biết đến và thực hiện khai thác (exploit) mà không cần sự hướng dẫn từ con người. Điều này tương tự với những lo ngại mà Anthropic từng đặt ra đối với mô hình Mythos trước đó. Để đối phó, OpenAI đang áp dụng các biện pháp phòng ngừa tương đương.

Về hiệu suất, Astra đã đạt điểm tuyệt đối trong ExploitBench – một bài kiểm tra khả năng tấn công vào các lỗ hổng hệ thống đã biết. Thậm chí, trong một phiên bản thử nghiệm tùy chỉnh, mô hình này đã tự phát hiện và khai thác thành công hai lỗ hổng zero-day. Hiện tại, OpenAI đã bắt đầu cải thiện hệ thống giám sát để ngăn chặn các hành vi lạm dụng hoặc jailbreak mô hình.

Để đảm bảo an toàn, OpenAI cho biết đã đầu tư vào các kỹ thuật mới, đồng thời áp dụng cơ chế giám sát chain-of-thought để phát hiện và ngăn chặn các hành vi bất thường. Công ty cũng tiến hành phân loại các tài khoản có rủi ro cao để hạn chế phản hồi từ mô hình. Đặc biệt, OpenAI đã thực hiện các bài kiểm tra mô phỏng sự cố ‘tác nhân rogue’ (từng xảy ra trên Hugging Face) để đảm bảo Astra không tìm cách vượt rào khỏi môi trường thử nghiệm.

Tuy nhiên, giới chuyên gia vẫn đặt dấu hỏi về tính minh bạch. Việc thiếu các đánh giá từ bên thứ ba khiến cộng đồng khó có thể kiểm chứng mức độ an toàn thực sự của Astra. Dù OpenAI mô tả đây là ‘mô hình được căn chỉnh (aligned) tốt nhất từ trước đến nay’, nhưng chỉ khi Astra được phát hành rộng rãi, chúng ta mới có thể đánh giá chính xác năng lực và các biện pháp bảo mật của nó.

Nguồn tham khảo: TechCrunch