ChatGPhish: Lỗ hổng biến ChatGPT thành công cụ tấn công phishing tinh vi

Các chuyên gia an ninh mạng vừa cảnh báo về một lỗ hổng bảo mật mới mang tên ChatGPhish, ảnh hưởng trực tiếp đến cách ChatGPT xử lý và hiển thị nội dung từ các trang web bên thứ ba. Lỗ hổng này cho phép kẻ tấn công biến trình tóm tắt của AI thành một bề mặt tấn công phishing nguy hiểm.

Cơ chế tấn công của ChatGPhish

Theo báo cáo từ Permiso Security, vấn đề nằm ở việc trình render của ChatGPT mặc định tin tưởng các liên kết (link) và hình ảnh định dạng Markdown được trích xuất từ các trang web mà người dùng yêu cầu tóm tắt. Khi một trang web chứa mã độc được ChatGPT xử lý, AI sẽ tự động tải các hình ảnh này và hiển thị các liên kết dưới dạng phần tử có thể nhấp chuột trực tiếp trong giao diện trò chuyện.

Kẻ tấn công có thể chèn các payload nhỏ vào trang web mục tiêu để thực hiện các hành vi như:

• Rò rỉ thông tin: Thu thập địa chỉ IP, User-Agent và thông tin Referer của người dùng khi AI tự động tải hình ảnh từ server của kẻ tấn công.
• Phishing và giả mạo: Hiển thị các cảnh báo bảo mật giả mạo hoặc mã QR độc hại ngay trong khung chat, giúp kẻ tấn công vượt qua các bộ lọc URL truyền thống trên máy tính.

Các nhà nghiên cứu nhấn mạnh rằng, người dùng không cần phải mở tệp đính kèm hay tương tác với các tin nhắn đáng ngờ như phương thức truyền thống. Chỉ cần yêu cầu ChatGPT tóm tắt một trang web chứa mã độc, các hướng dẫn ẩn bên trong đã có thể được thực thi và hiển thị ra giao diện người dùng.

Làn sóng tấn công vào các tác nhân AI (AI Agents)

Bên cạnh ChatGPhish, cộng đồng bảo mật cũng ghi nhận hàng loạt kỹ thuật tấn công mới nhắm vào các công cụ hỗ trợ lập trình bằng AI như SymJack và TrustFall. Các kỹ thuật này cho phép kẻ tấn công đạt được quyền thực thi mã từ xa (RCE) và chiếm quyền kiểm soát máy tính của nhà phát triển thông qua các kho lưu trữ (repository) chứa cấu hình độc hại.

Đáng chú ý, các cuộc tấn công này thường lợi dụng cơ chế Model Context Protocol (MCP) hoặc các tệp cấu hình để tự động chạy mã độc với đặc quyền của người dùng ngay khi thư mục được mở và cấp quyền tin tưởng.

Xu hướng tấn công AI trong tương lai

Các báo cáo gần đây từ Cisco, Palo Alto Networks và nhiều tổ chức bảo mật khác cho thấy một bức tranh đáng lo ngại: kẻ tấn công đang ngày càng tận dụng AI để:

• Vượt qua các bộ lọc an toàn thông qua kỹ thuật typographic prompt injection (sử dụng hình ảnh chứa văn bản ẩn).
• Tự động hóa các giai đoạn tấn công cloud, từ trinh sát, khai thác lỗ hổng cho đến leo thang đặc quyền.
• Tạo ra các phần mềm độc hại có khả năng thích ứng linh hoạt để né tránh sự phát hiện của các hệ thống phòng thủ.

Sự phát triển của các mô hình AI tiên tiến không chỉ mang lại hiệu suất làm việc mà còn mở ra những bề mặt tấn công mới. Việc các môi trường cloud hiện nay vốn đã “sẵn sàng cho tấn công AI” (AI-Attack-Ready) do sự phụ thuộc vào API và các dịch vụ liệt kê tài nguyên khiến rủi ro bị khai thác tự động hóa ngày càng trở nên hiện hữu.

Nguồn tham khảo: The Hacker News