NVIDIA thành lập Open Secure AI Alliance và công bố framework mã nguồn mở NOOA

NVIDIA vừa chính thức công bố sự ra đời của Open Secure AI Alliance, một liên minh bao gồm 37 tổ chức lớn trong lĩnh vực cloud, an ninh mạng và phần mềm doanh nghiệp. Mục tiêu cốt lõi của liên minh này là phát triển và chia sẻ các công nghệ, kỹ thuật cũng như công cụ mã nguồn mở nhằm bảo mật hệ thống phần mềm và các AI agent.

Danh sách thành viên bao gồm nhiều tên tuổi lớn như Microsoft, Cisco, Cloudflare, CrowdStrike, Hugging Face, IBM, Palo Alto Networks, Red Hat và Linux Foundation. Liên minh tập trung vào toàn bộ hệ sinh thái agent, từ quản lý danh tính, quyền truy cập, cơ chế cách ly (isolation), cho đến các quy trình mã hóa an toàn và kiểm soát log.

Ra mắt framework NOOA

Đóng góp kỹ thuật đầu tiên của liên minh là NVIDIA-labs OO Agents (NOOA), một framework nghiên cứu theo giấy phép Apache 2.0. NOOA được thiết kế để giúp việc kiểm thử, truy vết, kiểm toán và quản trị hành vi của các AI agent trở nên đơn giản hơn. Thay vì phụ thuộc vào các hệ thống đóng thông qua API của nhà cung cấp, NOOA cho phép các chuyên gia bảo mật chạy mô hình trên hạ tầng riêng, từ đó có thể đọc, tùy chỉnh và kiểm soát toàn bộ quy trình.

Tuy nhiên, NVIDIA cũng đưa ra cảnh báo về rủi ro: NOOA có khả năng thực thi mã Python do LLM tạo ra, điều này tiềm ẩn nguy cơ rò rỉ dữ liệu hoặc thay đổi môi trường hệ thống. Do đó, framework này yêu cầu các agent phải được vận hành bên trong các lớp cách ly cấp hệ điều hành như container hoặc máy ảo để đảm bảo an toàn.

Bài học từ sự cố tại Hugging Face

Việc thành lập liên minh này được thúc đẩy mạnh mẽ sau sự cố an ninh tại Hugging Face vào tháng 7 vừa qua. Khi đó, một hệ thống AI agent đã bị lợi dụng để truy cập trái phép vào hạ tầng sản xuất của công ty. Hugging Face đã phải sử dụng các mô hình mã nguồn mở (như GLM 5.2) chạy trên hạ tầng riêng để phân tích hơn 17.000 hành động, từ đó tái dựng lại dòng thời gian và xác định các chỉ số thỏa hiệp (IoC).

Sự cố này đã chứng minh tầm quan trọng của việc sở hữu các mô hình AI có khả năng vận hành độc lập trên hạ tầng nội bộ, giúp các tổ chức chủ động hơn trong việc ứng phó sự cố mà không bị giới hạn bởi các bộ lọc an toàn (cyber refusals) của các dịch vụ API thương mại.

Thách thức về quản trị

Mặc dù nhận được sự ủng hộ lớn, liên minh hiện vẫn đang trong giai đoạn sơ khai. Các tài liệu công khai chưa làm rõ cơ chế quản trị, lộ trình phát triển hay cam kết cụ thể từ các thành viên. Nhiều công nghệ được nhắc đến trong thông báo như Safetensors của Hugging Face hay SPIFFE/SPIRE vốn đã tồn tại từ trước và được coi là các dự án thành viên thay vì sản phẩm do liên minh trực tiếp tạo ra.

Trong thời gian tới, cộng đồng an ninh mạng kỳ vọng liên minh sẽ sớm công bố các quy trình vận hành minh bạch hơn để hiện thực hóa mục tiêu bảo mật AI trong kỷ nguyên tự động hóa.

Nguồn tham khảo: The Hacker News