Khi doanh nghiệp ứng dụng AI: Thách thức mới cho đội ngũ SOC

Trong năm qua, các trung tâm điều hành an ninh mạng (SOC) trên toàn cầu đã chứng kiến sự gia tăng đột biến của một loại cảnh báo mới: các thông báo phát sinh từ chính các công cụ và tác nhân AI. Đây không phải là các cuộc tấn công nhắm vào AI, mà là dấu vết hoạt động hàng ngày của nhân viên khi sử dụng các công cụ này trong môi trường doanh nghiệp.

Thực trạng cảnh báo từ AI

Dữ liệu nghiên cứu cho thấy các cảnh báo liên quan đến AI hiện chiếm khoảng 0,43% tổng số cảnh báo SOC, nhưng tốc độ tăng trưởng lại rất đáng kinh ngạc, tăng 685% trong giai đoạn từ tháng 2 đến tháng 6 năm 2026. Mặc dù tỷ lệ này còn nhỏ, nhưng đây là phân khúc tăng trưởng nhanh nhất hiện nay.

Điều quan trọng là cách phân loại các cảnh báo này: 94,1% là nhiễu (noise), 5,8% là rủi ro bảo mật thực sự và chỉ 0,02% là các cuộc tấn công nguy hiểm. Thách thức lớn nhất của các đội ngũ SOC hiện nay là việc các cảnh báo giả mạo đang làm lu mờ những rủi ro thực sự.

Ba nhóm cảnh báo chính

1. Các cuộc tấn công thực sự (Real Attacks)
Đây là nhóm nhỏ nhất nhưng nguy hiểm nhất. Đáng chú ý, các cuộc tấn công không trực tiếp khai thác lỗ hổng của AI mà thường sử dụng thương hiệu AI làm “mồi nhử” trong các chiến dịch phishing. Kẻ tấn công lợi dụng sự phổ biến của các công cụ như OpenAI, Anthropic hay Gemini để gửi các email lừa đảo, khiến người dùng mất cảnh giác vì cho rằng đó là thông báo công việc thông thường.

2. Sử dụng không an toàn (Unsafe Use)
Đây là nhóm rủi ro tiềm ẩn lớn nhất. Nhiều lập trình viên sử dụng các coding agent với tùy chọn “bỏ qua xác nhận quyền” (permission-bypass) để tăng tốc độ làm việc. Điều này vô tình tạo ra lỗ hổng nếu tác nhân AI thực thi các lệnh nguy hiểm mà không có sự kiểm soát. Ngoài ra, việc cấp quyền OAuth cho các ứng dụng AI bên thứ ba cũng làm tăng nguy cơ rò rỉ dữ liệu doanh nghiệp.

3. Nhiễu thông tin (Noise)
Đây là nhóm chiếm đa số (94,1%). Các công cụ bảo mật (EDR) truyền thống thường nhận diện nhầm các hành vi cài đặt hoặc cập nhật phần mềm AI hợp lệ là các hoạt động ransomware hoặc thực thi mã độc. Việc các quy tắc phát hiện (detection rules) cũ không còn phù hợp với cách thức hoạt động của AI hiện đại đang gây ra tình trạng quá tải cho các chuyên viên phân tích.

Lời khuyên cho đội ngũ SOC

Các chuyên gia nhấn mạnh rằng, trong kỷ nguyên AI, các nhãn cảnh báo (severity labels) không nên được tin tưởng tuyệt đối. Đội ngũ SOC cần:

• Kiểm soát chặt chẽ các agent: Hạn chế sử dụng các tùy chọn bỏ qua quyền bảo mật trên các công cụ AI.
• Cập nhật quy tắc phát hiện: Tinh chỉnh lại các bộ lọc để giảm thiểu nhiễu từ các phần mềm AI hợp lệ.
• Tập trung vào ngữ cảnh: Thay vì chỉ nhìn vào hành vi đơn lẻ, cần phân tích chuỗi hoạt động để xác định xem đó là công việc của lập trình viên hay là một cuộc tấn công thực sự.

Việc hiểu rõ bản chất của các cảnh báo AI không chỉ giúp giảm tải cho hệ thống mà còn giúp các doanh nghiệp bảo vệ tài sản dữ liệu hiệu quả hơn trong bối cảnh AI trở thành công cụ làm việc không thể thiếu.

Nguồn tham khảo: The Hacker News