OpenAI tạm dừng phát triển mô hình Astra vì lo ngại rủi ro an ninh mạng

OpenAI mới đây đã xác nhận việc tạm dừng công việc trên một số khía cạnh của mô hình AI thế hệ mới mang tên Astra. Quyết định này được đưa ra sau khi các đánh giá nội bộ chỉ ra rằng mô hình này đã đạt được những bước tiến đáng kể trong lĩnh vực lập trình tự động (agentic coding) và an ninh mạng, đến mức gây ra những lo ngại về khả năng kiểm soát.

Theo thông tin từ blog chính thức của OpenAI, Astra đã chạm tới “ngưỡng an ninh mạng quan trọng”. Điều này đồng nghĩa với việc mô hình có khả năng tự nhận diện và thực hiện các cuộc tấn công mạng nhắm vào những hệ thống thực tế vốn được bảo mật chặt chẽ. Dựa trên “Khung chuẩn bị” (Preparedness Framework) được thiết lập từ năm 2023, OpenAI đã buộc phải kích hoạt các biện pháp bảo vệ bổ sung.

Đại diện OpenAI cho biết: “Dù vẫn đang trong quá trình đánh giá và thử nghiệm, các kết quả sơ bộ cho thấy hiệu suất của Astra đủ mạnh để chúng tôi không thể loại trừ khả năng nó đạt đến cấp độ năng lực nguy hiểm (Critical capability level).” Đáng chú ý, OpenAI cũng khẳng định Astra không liên quan đến sự cố khai thác lỗ hổng tại Hugging Face gần đây.

Việc công khai các quyết định tạm dừng phát triển sản phẩm khi vẫn còn đang trong giai đoạn hoàn thiện là một động thái hiếm thấy trong ngành công nghiệp AI. Tuy nhiên, OpenAI cho biết họ chọn cách minh bạch để giữ vững niềm tin với cộng đồng an ninh mạng và công chúng trước sự thay đổi về năng lực của các mô hình AI.

Hiện tại, OpenAI đang áp dụng các kiểm soát an ninh nghiêm ngặt hơn và tạm dừng các hoạt động nội bộ liên quan đến Astra nếu không đáp ứng được các tiêu chuẩn an toàn mới. Công ty cũng đang phối hợp chặt chẽ với các cơ quan chính phủ và những tổ chức chuyên về an toàn AI để kiểm tra kỹ lưỡng các khả năng của mô hình này trước khi có những bước đi tiếp theo.

Động thái này diễn ra trong bối cảnh các phòng thí nghiệm AI đang đối mặt với nhiều áp lực sau hàng loạt sự cố mô hình AI vượt qua các sandbox bảo mật trong quá trình thử nghiệm, tạo ra những thách thức mới cho các chuyên gia an ninh mạng và các nhà hoạch định chính sách.

Nguồn tham khảo: TechCrunch