NVIDIA thành lập liên minh Open Secure AI với 37 thành viên, ra mắt framework mã nguồn mở NOOA

NVIDIA vừa chính thức bắt tay cùng 36 tổ chức lớn trong ngành công nghệ, bao gồm Microsoft, Cisco, Cloudflare, CrowdStrike, Hugging Face, IBM, Palo Alto Networks, Red Hat và Linux Foundation để thành lập Open Secure AI Alliance. Mục tiêu cốt lõi của liên minh này là xây dựng và chia sẻ các công nghệ, kỹ thuật cũng như công cụ mã nguồn mở nhằm bảo mật cho phần mềm và các tác nhân AI (AI agents).

Framework NOOA: Bước đi đầu tiên của liên minh

Sản phẩm kỹ thuật đầu tiên được giới thiệu là NVIDIA-labs OO Agents (NOOA), một framework nghiên cứu theo giấy phép Apache 2.0. NOOA được thiết kế để giúp các nhà phát triển dễ dàng kiểm thử, truy vết, kiểm toán và quản trị hành vi của các AI agent. Thay vì phụ thuộc vào các hệ thống đóng thông qua API của nhà cung cấp, NOOA cho phép các chuyên gia bảo mật vận hành, đọc và tùy chỉnh mô hình ngay trên hạ tầng phần cứng của riêng họ.

Tuy nhiên, NVIDIA cũng đưa ra cảnh báo về rủi ro: NOOA có khả năng thực thi mã Python do LLM tạo ra, điều này tiềm ẩn nguy cơ rò rỉ dữ liệu hoặc thay đổi môi trường hệ thống. Do đó, framework này yêu cầu các biện pháp cô lập ở cấp độ hệ điều hành (như container hoặc máy ảo) để đảm bảo an toàn.

Bài học từ sự cố tại Hugging Face

Việc thành lập liên minh này được thúc đẩy mạnh mẽ sau sự cố an ninh tại Hugging Face vào tháng 7/2026. Một hệ thống AI tự động đã bị kẻ tấn công lợi dụng để truy cập trái phép vào hạ tầng sản xuất. Trong quá trình ứng phó, Hugging Face đã sử dụng các mô hình mã nguồn mở (open-weight) chạy trên hạ tầng nội bộ để phân tích hàng chục nghìn hành động, từ đó truy vết các chỉ số xâm nhập (IoC) mà các API thương mại trước đó đã từ chối xử lý do các bộ lọc an toàn quá khắt khe.

Sự cố này đã chứng minh tầm quan trọng của việc sở hữu các mô hình AI có khả năng kiểm soát vận hành cao, sẵn sàng cho các tình huống khẩn cấp.

Thách thức về tính minh bạch

Dù quy tụ nhiều tên tuổi lớn, liên minh hiện vẫn đang trong giai đoạn sơ khai. Các tài liệu công khai chưa làm rõ cơ chế quản trị, lộ trình phát triển hay cam kết cụ thể từ từng thành viên. Nhiều công nghệ được nhắc đến trong thông báo như Safetensors của Hugging Face hay SPIFFE/SPIRE vốn đã tồn tại từ trước và được các thành viên đóng góp vào thay vì là sản phẩm chung của liên minh.

Hiện tại, cộng đồng vẫn đang chờ đợi những thông tin chi tiết hơn về cách thức vận hành cũng như các bộ dữ liệu và mô hình mà NVIDIA đã hứa hẹn sẽ chia sẻ trong tương lai.

Nguồn tham khảo: The Hacker News