NVIDIA cùng 36 đối tác thành lập liên minh bảo mật AI, ra mắt framework mã nguồn mở NOOA

NVIDIA cùng 36 tổ chức lớn trong ngành công nghệ, bao gồm Microsoft, Cisco, Cloudflare, CrowdStrike, Hugging Face, IBM, Palo Alto Networks, Red Hat và Linux Foundation, vừa chính thức thành lập Open Secure AI Alliance. Mục tiêu của liên minh này là xây dựng các công nghệ, kỹ thuật và công cụ mã nguồn mở nhằm bảo mật hệ thống phần mềm và các tác nhân AI (AI agents).

Tầm nhìn về AI tự chủ và bảo mật

Liên minh tập trung vào toàn bộ hệ sinh thái AI agent, từ quản lý danh tính, quyền truy cập, cô lập môi trường (isolation), cho đến các cơ chế kiểm soát (guardrails) và quy trình lập trình an toàn. Thông điệp cốt lõi của nhóm là các chuyên gia bảo mật cần những mô hình AI mà họ có thể tự kiểm tra, tùy chỉnh và vận hành trên hạ tầng riêng, thay vì phụ thuộc hoàn toàn vào các hệ thống đóng thông qua API của nhà cung cấp.

Sản phẩm đầu tiên được giới thiệu là NVIDIA-labs OO Agents (NOOA), một framework nghiên cứu theo giấy phép Apache 2.0. NOOA giúp việc kiểm thử, theo dõi, kiểm toán và quản trị hành vi của các AI agent trở nên trực quan hơn.

Cảnh báo về rủi ro từ AI agent

Mặc dù NOOA hỗ trợ kiểm soát, NVIDIA cũng đưa ra cảnh báo rõ ràng về rủi ro. Framework này có khả năng thực thi mã Python do LLM tạo ra, điều này tiềm ẩn nguy cơ rò rỉ dữ liệu nhạy cảm hoặc thay đổi môi trường hệ thống. Do đó, NOOA chỉ đóng vai trò kiểm tra và truy vết, còn việc cô lập thực sự phải được thực hiện ở cấp độ hệ điều hành thông qua container, máy ảo hoặc sandbox chuyên dụng.

Bài học từ sự cố tại Hugging Face

Việc thành lập liên minh này được thúc đẩy một phần từ sự cố an ninh tại Hugging Face vào tháng 7/2026. Khi đó, một hệ thống AI agent đã bị lợi dụng để xâm nhập vào hạ tầng sản xuất của công ty. Hugging Face đã phải sử dụng mô hình mã nguồn mở GLM 5.2 chạy trên hạ tầng nội bộ để tái dựng lại chuỗi hành vi tấn công, vì các API của các mô hình thương mại đã từ chối xử lý các lệnh tấn công độc hại.

Sự cố này nhấn mạnh tầm quan trọng của việc sở hữu các mô hình AI có khả năng vận hành độc lập trên hạ tầng riêng để ứng phó kịp thời khi có sự cố xảy ra.

Thách thức về quản trị

Dù có sự tham gia của nhiều tên tuổi lớn, liên minh hiện vẫn đang ở giai đoạn sơ khai. Các tài liệu công khai chưa nêu rõ cơ cấu quản trị, lộ trình kỹ thuật hay cam kết cụ thể từ các thành viên. Nhiều công nghệ được nhắc đến trong thông báo như Safetensors (Hugging Face) hay SPIFFE/SPIRE (HPE) vốn là các dự án độc lập đã tồn tại từ trước. Hiện tại, NOOA là dự án mã nguồn mở duy nhất được NVIDIA trực tiếp duy trì trong khuôn khổ liên minh này.

Nguồn tham khảo: The Hacker News