Cảnh báo: Tội phạm mạng sử dụng AI tự hành để đánh cắp hàng nghìn thông tin xác thực chỉ trong 6 giờ

Các nhóm tội phạm mạng đang ngày càng tận dụng trí tuệ nhân tạo (AI) để tối ưu hóa hoạt động tấn công. Theo báo cáo mới nhất từ Google Threat Intelligence Group (GTIG), một nhóm tin tặc vì mục đích tài chính đã sử dụng framework tấn công đa tác nhân (multi-agent) tự hành để thực hiện chiến dịch thu thập thông tin xác thực quy mô lớn chỉ trong vòng chưa đầy 6 giờ.

Sự trỗi dậy của các tác nhân AI tự hành

John Hultquist, chuyên gia phân tích trưởng tại GTIG, cảnh báo rằng việc ứng dụng AI theo cách thức “agentic” (tự hành) đang tạo ra những đối thủ nguy hiểm với tốc độ tấn công nhanh chóng. Các tội phạm mạng hiện nay không chỉ sử dụng AI để hỗ trợ mà còn để tự động hóa toàn bộ chuỗi tấn công, từ quét lỗ hổng, xử lý sự cố thời gian thực cho đến xoay vòng IP mà không cần sự can thiệp của con người.

Trong một chiến dịch điển hình, kẻ tấn công đã sử dụng chatbot lập trình AI cùng các bộ hướng dẫn (playbook) định sẵn để lập kế hoạch và thực thi việc đánh cắp hàng nghìn thông tin xác thực của bên thứ ba trong thời gian cực ngắn.

Mối đe dọa từ chuỗi cung ứng phần mềm và DUSTMAKER

Nhóm tin tặc TeamPCP (còn gọi là UNC6780) được xác định là nhân tố chính đứng sau các vụ xâm nhập chuỗi cung ứng phần mềm nhắm vào PyPI, npm và Docker Hub. Nhóm này sử dụng các payload như SANDCLOCK và gần đây là DUSTMAKER để đánh cắp thông tin xác thực. DUSTMAKER đặc biệt nguy hiểm khi được tối ưu hóa cho các pipeline CI/CD, đồng thời áp dụng các kỹ thuật như đầu độc không gian làm việc của trợ lý AI và sử dụng prompt injection để vượt qua các lớp phòng thủ.

AI trong tay tội phạm mạng: Từ gián điệp đến tống tiền

Báo cáo của Google cũng chỉ ra nhiều xu hướng đáng lo ngại khác:

• Đánh cắp tài sản AI: Các nhóm tin tặc đang nhắm mục tiêu vào các mô hình AI độc quyền, mã nguồn và dữ liệu nghiên cứu trong các lĩnh vực y tế, chính phủ và truyền thông.
• Sử dụng mô hình cục bộ: Một số nhóm (như UNC6508) đã xâm nhập môi trường cloud để triển khai hạ tầng LLM cục bộ, sử dụng các mô hình mã nguồn mở (open-weight) nhằm né tránh sự giám sát của các nhà cung cấp AI thương mại.
• Phát triển công cụ tấn công: Các nhóm gián điệp mạng đang sử dụng AI để xây dựng các framework kiểm thử xâm nhập tự động, có khả năng tự nhận diện mục tiêu và thực hiện các giai đoạn khám phá (discovery) ban đầu.

Thách thức từ các mô hình mã nguồn mở

Việc các mô hình AI mã nguồn mở ngày càng mạnh mẽ đã tạo ra “con dao hai lưỡi”. Trong khi thúc đẩy đổi mới, chúng cũng cho phép tội phạm mạng triển khai cục bộ mà không có các rào cản an toàn (guardrails). Các biến thể “abliterated” (đã loại bỏ kiểm duyệt) đang trở thành công cụ đắc lực cho các chiến dịch phishing và viết script độc hại mà không để lại dấu vết trên hệ thống tập trung.

Google nhấn mạnh rằng việc giảm thiểu rủi ro này đòi hỏi sự phối hợp toàn ngành để thiết lập các tiêu chuẩn an toàn cho AI mã nguồn mở, đồng thời áp dụng các chính sách nền tảng nghiêm ngặt nhằm hạn chế sự lạm dụng của các tác nhân xấu.

Nguồn tham khảo: The Hacker News