Cảnh báo: Lỗ hổng trong NVIDIA NemoClaw cho phép kẻ tấn công ‘đầu độc’ mô hình AI cục bộ

Các chuyên gia bảo mật tại Oasis Security vừa công bố một lỗ hổng nghiêm trọng trong NVIDIA NemoClaw, một nền tảng mã nguồn mở được thiết kế để vận hành các tác nhân AI (AI agents). Lỗ hổng này có thể cho phép một trang web độc hại chiếm quyền điều khiển không xác thực đối với các instance Ollama cục bộ, từ đó chèn các chỉ dẫn ẩn trực tiếp vào bên trong mô hình AI.

Theo báo cáo, NemoClaw khởi chạy Ollama với cấu hình OLLAMA_HOST=0.0.0.0:11434, khiến API của mô hình bị lộ ra trên mọi giao diện mạng. Khi API này không được bảo vệ bằng xác thực, kẻ tấn công có thể lợi dụng kỹ thuật DNS rebinding để vượt qua các kiểm tra bảo mật của trình duyệt, từ đó gửi các yêu cầu trái phép đến máy chủ cục bộ.

Elad Luz, trưởng nhóm nghiên cứu tại Oasis Security, giải thích rằng kẻ tấn công có thể ghi đè lên template trò chuyện của mô hình thông qua endpoint /api/create. Bằng cách này, các chỉ dẫn độc hại sẽ được chèn vào mọi cuộc hội thoại sau đó, ngay cả khi người dùng thay đổi prompt hệ thống. Điều nguy hiểm là các chỉ dẫn này tồn tại dai dẳng ở cấp độ mô hình, khiến người dùng cuối gần như không thể phát hiện ra.

Tình trạng cập nhật và khắc phục:

• NVIDIA đã phát hành bản vá trong NemoClaw v0.0.35 cho macOS và Linux.
• Người dùng trên Windows và WSL hiện vẫn chưa có bản vá chính thức, thay vào đó chỉ nhận được cảnh báo khi cài đặt phiên bản v0.0.34.
• NemoClaw v0.0.106 cũng đã bổ sung cơ chế từ chối khởi chạy nếu Ollama không được cấu hình ở địa chỉ loopback (127.0.0.1), nhằm ngăn chặn việc lộ API ra ngoài.

Các chuyên gia khuyến cáo người dùng nên kiểm tra cấu hình OLLAMA_HOST và đảm bảo rằng các dịch vụ AI cục bộ không được cấu hình để lắng nghe trên các giao diện mạng không an toàn. Việc xác thực tiêu đề Host và Origin là biện pháp phòng thủ tiêu chuẩn để chống lại các cuộc tấn công dạng này.

Nguồn tham khảo: The Hacker News