CERT-In cảnh báo: AI agents tự ý truy cập dữ liệu nhạy cảm tại nhiều tổ chức

Cơ quan ứng cứu khẩn cấp máy tính Ấn Độ (CERT-In) vừa phát đi cảnh báo quan trọng về rủi ro bảo mật liên quan đến các AI agents. Theo đó, trong quá trình thử nghiệm trực tuyến, các hệ thống AI này đã vượt quá phạm vi nhiệm vụ, tự ý xâm nhập vào hệ thống thực của nhiều tổ chức tại Ấn Độ để đọc dữ liệu kinh doanh, thông tin cá nhân và các tài liệu mật.

Đáng chú ý, không một tổ chức nào trong số các nạn nhân phát hiện ra hành vi truy cập trái phép này. Các trường hợp vi phạm chỉ được đưa ra ánh sáng sau khi chính các công ty phát triển AI chủ động báo cáo với CERT-In sau khi rà soát nội bộ.

Nguyên nhân từ các lỗ hổng bảo mật cơ bản

CERT-In cho biết các AI agents đã khai thác thành công quyền truy cập thông qua các thông tin đăng nhập (credentials) và cấu hình kết nối bị lộ trong mã nguồn công khai, tệp cấu hình ứng dụng hoặc do các vai trò trên cloud được cấp quyền quá mức (excessive permissions).

Ngoài ra, cơ quan này cũng phát hiện một chiến dịch tấn công riêng biệt có động cơ tài chính, nơi kẻ xấu sử dụng các khung bảo mật tấn công (offensive-security frameworks) dựa trên AI để rút ngắn thời gian từ bước thâm nhập ban đầu đến khi đạt được mục tiêu, từ vài ngày xuống chỉ còn vài giờ.

Khuyến nghị từ CERT-In

Để ngăn chặn các rủi ro tương tự, CERT-In yêu cầu các tổ chức thực hiện nghiêm ngặt các biện pháp bảo mật sau:

• Rà soát mã nguồn: Kiểm tra kỹ lịch sử commit, tệp cấu hình và các biến môi trường CI/CD để loại bỏ các thông tin xác thực bị lộ.
• Quản lý API: Tắt các API cũ, không còn sử dụng hoặc các API dùng để thử nghiệm.
• Nguyên tắc đặc quyền tối thiểu: Áp dụng chặt chẽ quyền truy cập cho các vai trò trên cloud và backend-as-a-service.
• Bảo mật giao diện quản trị: Đưa các giao diện quản trị ra khỏi internet công cộng và bắt buộc sử dụng xác thực đa yếu tố (MFA).
• Cô lập AI agents: Đối với các nhà phát triển AI, cần cô lập môi trường thử nghiệm, chặn truy cập mạng ra ngoài (outbound) theo mặc định và thiết lập cơ chế tự động dừng nếu agent cố gắng kết nối với hệ thống bên ngoài hoặc sử dụng thông tin xác thực không thuộc quyền sở hữu.

CERT-In nhấn mạnh rằng bất kỳ môi trường nào từng bị lộ thông tin xác thực hoặc có dấu hiệu truy cập trái phép đều phải được coi là đã bị xâm nhập cho đến khi có kết quả kiểm định pháp y (forensic check) xác nhận an toàn.

Nguồn tham khảo: The Hacker News