Hugging Face bị tấn công bởi tác nhân AI tự hành

Trong một diễn biến đầy trớ trêu, Hugging Face – nền tảng mã nguồn mở hàng đầu dành cho trí tuệ nhân tạo (AI) – vừa xác nhận trở thành nạn nhân của một vụ tấn công mạng được thực hiện bởi chính một hệ thống AI tự hành.

Theo thông báo từ Hugging Face, sự cố xảy ra vào tuần trước khi hệ thống phát hiện truy cập trái phép vào một số tập dữ liệu nội bộ và các thông tin xác thực (credentials) quan trọng. Tuy nhiên, công ty khẳng định rằng các mô hình AI công khai, tập dữ liệu người dùng và các không gian làm việc (Spaces) vẫn an toàn, không có dấu hiệu bị can thiệp.

Chi tiết kỹ thuật về vụ tấn công

Kẻ tấn công đã khai thác lỗ hổng trong quy trình xử lý dữ liệu (data processing pipeline). Cụ thể, thông qua một tập dữ liệu độc hại, kẻ tấn công đã lợi dụng hai đường dẫn thực thi mã (code execution paths): một trong trình tải dữ liệu từ xa và một thông qua kỹ thuật template injection trong cấu hình tập dữ liệu. Điều này cho phép kẻ tấn công thực thi mã trực tiếp trên các worker xử lý.

Sau khi chiếm được quyền truy cập ban đầu, kẻ tấn công đã leo thang đặc quyền lên cấp độ node, đánh cắp thông tin xác thực cloud và cluster, sau đó di chuyển ngang (lateral movement) vào nhiều cụm máy chủ nội bộ khác trong suốt cuối tuần.

Mặc dù chưa xác định được chính xác mô hình ngôn ngữ lớn (LLM) nào đứng sau vụ tấn công, Hugging Face cho biết hệ thống này đã thực hiện hàng nghìn hành động riêng lẻ thông qua một mạng lưới các sandbox tạm thời, với cơ chế điều khiển và ra lệnh (C2) được ẩn giấu trên các dịch vụ công cộng.

Phản ứng và bài học kinh nghiệm

Hugging Face đã khắc phục triệt để các lỗ hổng thực thi mã, đồng thời thực hiện các biện pháp ứng phó khẩn cấp:

Loại bỏ quyền truy cập của kẻ tấn công và tái thiết lập các node bị ảnh hưởng.
Thu hồi và thay đổi toàn bộ các thông tin xác thực, token và bí mật (secrets) để đảm bảo an toàn.
Triển khai thêm các lớp bảo vệ và kiểm soát truy cập nghiêm ngặt hơn trên các cluster.
Cải thiện hệ thống giám sát và cảnh báo để phản ứng kịp thời 24/7.

Một chi tiết đáng chú ý trong quá trình điều tra là Hugging Face đã gặp khó khăn khi sử dụng các mô hình AI phương Tây để phân tích pháp y (forensics), do các mô hình này liên tục từ chối xử lý các dữ liệu tấn công vì cơ chế bảo mật (guardrails) quá khắt khe. Cuối cùng, họ phải sử dụng GLM 5.2 của Z.ai để hoàn tất quá trình phân tích.

Qua sự cố này, Hugging Face đưa ra lời khuyên cho các đội ngũ bảo mật: Hãy luôn chuẩn bị sẵn sàng một mô hình AI có khả năng chạy trên hạ tầng riêng (on-premise) để phục vụ công tác điều tra sự cố, tránh việc bị khóa bởi các rào cản an toàn của các mô hình thương mại khi đang trong tình huống khẩn cấp.

Nguồn tham khảo: The Hacker News