Nghiên cứu mới: 282 ứng dụng AI trên iOS làm lộ khóa API và tiếp tay cho tấn công LLMjacking

Một nghiên cứu chuyên sâu từ Đại học Wake Forest đã gióng lên hồi chuông cảnh báo về bảo mật trên các ứng dụng AI dành cho iPhone. Sau khi kiểm tra 444 ứng dụng chatbot AI, các nhà nghiên cứu phát hiện có tới 282 ứng dụng (chiếm gần 2/3) làm lộ quyền truy cập vào các dịch vụ AI trả phí thông qua lưu lượng mạng.

Các hình thức lộ lọt dữ liệu

Thông qua công cụ tự chế có tên LLMKeyLens, nhóm nghiên cứu đã theo dõi lưu lượng mạng của các ứng dụng mà không cần thực hiện jailbreak hay can thiệp sâu vào mã nguồn. Kết quả cho thấy các lỗ hổng tập trung vào ba nhóm chính:

Khóa API dạng văn bản thuần (Plaintext): Khóa được gửi trực tiếp, có thể đọc được ngay từ một yêu cầu mạng đơn lẻ.
Không yêu cầu xác thực: Ứng dụng định tuyến yêu cầu thông qua một server trung gian không thực hiện bất kỳ bước kiểm tra quyền hạn nào, cho phép bất kỳ ai cũng có thể truy cập vào tài khoản AI trả phí.
Token có thể tái sử dụng: Đây là hình thức phổ biến nhất. Dù được thiết kế như một dạng truy cập tạm thời, nhưng các token này thường bị lộ trong lưu lượng mạng và vẫn giữ hiệu lực trong thời gian dài, thậm chí có trường hợp token tồn tại hàng trăm năm.

Đáng chú ý, trong 54 ứng dụng lộ khóa API dạng văn bản, có 28 ứng dụng còn làm lộ cả system prompt – những chỉ dẫn ẩn định nghĩa cách thức hoạt động và tính năng của chatbot.

Nguy cơ từ LLMjacking

Tình trạng này dẫn đến rủi ro lớn về tài chính thông qua hình thức LLMjacking. Kẻ tấn công có thể đánh cắp các khóa API này để sử dụng các mô hình AI đắt tiền trên tài khoản của nhà phát triển, gây ra thiệt hại kinh tế đáng kể. Theo ước tính từ Sysdig, các thông tin xác thực bị đánh cắp có thể khiến chi phí sử dụng AI tăng vọt lên tới 46.000 USD mỗi ngày.

Phản ứng chậm chạp từ nhà phát triển

Mặc dù đã được thông báo về các lỗ hổng, nhưng sau ba tháng, chỉ có 28% nhà phát triển thực hiện các biện pháp khắc phục. Nhiều ứng dụng vẫn để ngỏ quyền truy cập, thậm chí có những token được thiết lập thời hạn hết hạn lên tới năm 2125.

Các chuyên gia khuyến cáo nhà phát triển không nên nhúng trực tiếp khóa API vào ứng dụng. Thay vào đó, các yêu cầu AI nên được định tuyến qua server riêng, nơi có cơ chế kiểm soát quyền truy cập chặt chẽ và khả năng thu hồi khóa ngay lập tức nếu phát hiện dấu hiệu bị rò rỉ.

Nghiên cứu này một lần nữa khẳng định rằng sự bùng nổ của AI đang đi kèm với những rủi ro bảo mật nghiêm trọng khi các tiêu chuẩn an toàn chưa được ưu tiên đúng mức trong quá trình phát triển ứng dụng di động.

Nguồn tham khảo: The Hacker News