Cloudflare khắc phục lỗ hổng rò rỉ dữ liệu KV cache trên mô hình Workers AI

Vào ngày 8 tháng 9 năm 2026, Cloudflare đã nhận được báo cáo từ nhà nghiên cứu bảo mật Gadi Evron (Knostic) về một vấn đề cô lập người dùng (tenant isolation) trên mô hình GLM-5.3 (`@cf/zai-org/glm-5.3`) của dịch vụ Workers AI. Sự cố này đã khiến một số yêu cầu từ người dùng nhận được phản hồi chứa dữ liệu từ các phiên làm việc trước đó của người dùng khác.

Nguyên nhân sự cố

Sự cố xảy ra do sự kết hợp của hai yếu tố chính:

• Sai lệch cấu hình: Cloudflare đã triển khai mô hình GLM-5.3 với cửa sổ ngữ cảnh (context window) lên tới 1.048.576 token, nhưng bộ nhớ đệm KV cache trên các GPU prefill chỉ có dung lượng 681.280 token.
• Lỗi trong engine SGLang: Khi gặp các yêu cầu vượt quá dung lượng KV cache, engine SGLang đã không hủy bỏ yêu cầu một cách an toàn. Thay vào đó, nó tạo ra một placeholder và chuyển tiếp yêu cầu đến node decode. Node decode, do nhận được tín hiệu “chuyển tiếp hoàn tất”, đã sử dụng lại các trang bộ nhớ cũ (vẫn chứa dữ liệu từ người dùng trước) để tạo phản hồi, dẫn đến việc rò rỉ dữ liệu.

Cloudflare xác nhận có 155 phản hồi bị ảnh hưởng, tất cả đều liên quan đến các prompt dài hơn 681.280 token. Không có bằng chứng cho thấy đây là một cuộc tấn công có chủ đích, mà hoàn toàn là lỗi kỹ thuật trong quá trình xử lý dữ liệu dài.

Các biện pháp khắc phục

Ngay sau khi phát hiện, Cloudflare đã tạm dừng mô hình và thực hiện các bước xử lý:

• Điều chỉnh cấu hình: Mở rộng dung lượng KV cache pool lên 2,04 triệu token, đảm bảo luôn lớn hơn cửa sổ ngữ cảnh của mô hình.
• Bản vá engine: Cập nhật SGLang để đảm bảo các yêu cầu bị từ chối sẽ được loại bỏ ngay tại hàng đợi tiếp nhận (admission queue) trước khi bất kỳ quá trình cấp phát hoặc truyền dữ liệu KV nào diễn ra.

Cloudflare cũng đã phối hợp chặt chẽ với đội ngũ phát triển SGLang để đưa các bản vá này vào phiên bản chính thức (v0.5.21 và v0.5.22). Công ty khuyến nghị tất cả các đơn vị đang vận hành SGLang nên cập nhật lên phiên bản v0.5.22 hoặc mới hơn để đảm bảo an toàn.

Hiện tại, Cloudflare đã tăng cường kiểm tra tự động để đảm bảo dung lượng KV pool luôn tương thích với cấu hình mô hình trước khi triển khai, đồng thời tiếp tục nghiên cứu các giải pháp bảo mật bộ nhớ cache nâng cao để ngăn chặn các lỗi tương tự trong tương lai.

Nguồn tham khảo: Cloudflare Blog