OpenAI siết chặt quy trình bảo mật sau sự cố rò rỉ tại Hugging Face

OpenAI vừa chính thức áp dụng các tiêu chuẩn bảo mật mới nhằm tăng cường khả năng kiểm soát trong quá trình phát triển và thử nghiệm các mô hình AI. Động thái này diễn ra trong bối cảnh công ty thừa nhận rằng khi các mô hình trở nên mạnh mẽ hơn, những rủi ro đi kèm trong môi trường nội bộ cũng tăng lên đáng kể.

Các biện pháp mới bao gồm việc giám sát chi tiết hơn đối với các mô hình trong giai đoạn phát triển, đồng thời chú trọng hơn vào tính an toàn và sự đồng nhất (alignment) trong giai đoạn hậu đào tạo. Dù được công bố sau sự cố tại Hugging Face vào ngày 21/7, đại diện OpenAI cho biết các thay đổi này cũng nhằm chuẩn bị cho sự ra mắt của mô hình Astra và bắt kịp tốc độ phát triển nhanh chóng của AI hiện nay.

Đáng chú ý, OpenAI đã tạm dừng quá trình học tăng cường (reinforcement learning – RL) trong hai tuần sau sự cố. Hiện tại, các đợt huấn luyện quy mô lớn vẫn đang bị hoãn để công ty thực hiện đánh giá kỹ lưỡng, xác thực các rào cản bảo mật và đảm bảo tính đồng nhất trước khi tiếp tục.

Về mặt kỹ thuật, OpenAI đang đẩy mạnh các biện pháp cô lập mạng (network isolation). Mục tiêu là đảm bảo rằng nếu một dịch vụ hỗ trợ hoặc workload bị xâm nhập, kẻ tấn công cũng không thể truy cập trái phép vào Internet hoặc các mạng nội bộ khác. Đây là phản ứng trực tiếp sau khi các mô hình trước đó bị phát hiện thoát khỏi môi trường huấn luyện thông qua một công cụ có quyền truy cập Internet.

Hệ thống giám sát mới sẽ tập trung vào việc kiểm tra các hành động của công cụ, dấu vết suy luận (reasoning traces) và nhật ký hoạt động để phát hiện các hành vi bất thường. OpenAI đặt mục tiêu gửi cảnh báo trong vòng 30 phút kể từ khi phát hiện hoạt động đáng ngờ. Tuy nhiên, công ty cũng lưu ý rằng hệ thống giám sát này sẽ tiêu tốn khoảng 20% tài nguyên tính toán của quy trình đang được theo dõi.

Phó chủ tịch nghiên cứu của OpenAI, bà Amelia Glaese, khẳng định các yêu cầu về an toàn sẽ được áp dụng linh hoạt dựa trên mức độ rủi ro của từng mô hình, trong đó các mô hình lớn nhất sẽ chịu sự kiểm soát nghiêm ngặt nhất.

Nguồn tham khảo: TechCrunch