Cloudflare Containers tái cấu trúc để tối ưu hóa hiệu năng cho AI Agents

Cloudflare vừa công bố những cải tiến quan trọng cho dịch vụ Cloudflare Containers, tập trung tối ưu hóa cho các tác vụ của AI agents. Thay vì triển khai các sandbox tĩnh từ trước, các agent hiện nay đòi hỏi khả năng tạo sandbox theo yêu cầu (on-demand), sẵn sàng tức thì, cùng khả năng tạm dừng và khôi phục trạng thái linh hoạt.

Kiến trúc mới cho tốc độ vượt trội

Để đáp ứng nhu cầu này, Cloudflare đã thiết kế lại hạ tầng Containers từ cấp độ cơ bản. Thay đổi lớn nhất nằm ở chính sách lập lịch durable_object, cho phép mã nguồn của ứng dụng kiểm soát trực tiếp việc lựa chọn image và tài nguyên tính toán ngay tại thời điểm runtime. Kết quả là thời gian khởi động trung bình đã giảm từ hơn 4 giây xuống còn 648 mili giây, nhanh gấp 6 lần so với trước đây.

Mỗi Container vẫn được gắn liền với một Durable Object – đóng vai trò là bộ điều khiển bền vững, quản lý vòng đời, lưu lượng truy cập và các tác vụ khác. Việc tích hợp sâu hơn vào API ctx.container giúp Durable Object điều khiển Container mà không cần các lớp trung gian phức tạp.

Linh hoạt trong triển khai và quản lý

Trước đây, việc cấu hình image và tài nguyên bị cố định tại thời điểm deploy. Với mô hình mới, các quyết định này được đưa ra ngay trong code. Điều này giúp nhà phát triển dễ dàng thực hiện các chiến lược rollout như:

• Canary deployment: Thử nghiệm toolchain mới trên một nhóm nhỏ sandbox.
• Pinning: Giữ nguyên image cho các dự án đang chạy để tránh gián đoạn giữa chừng.
• Rollback nhanh: Thay đổi image cho các phiên khởi tạo mới mà không cần chờ đợi quá trình drain hay cấu hình lại hệ thống.

Snapshot hệ thống: Lưu trữ và khôi phục công việc

Một trong những tính năng đáng chú ý nhất đang ở giai đoạn public beta là filesystem snapshots. Tính năng này cho phép agent lưu lại trạng thái của môi trường làm việc (bao gồm các thư viện đã cài đặt, cache build, và file dữ liệu) để khôi phục sau đó. Điều này giúp loại bỏ việc phải thiết lập lại môi trường từ đầu mỗi khi agent bắt đầu một tác vụ mới, tối ưu hóa đáng kể thời gian chờ đợi của người dùng.

Bên cạnh đó, Cloudflare giới thiệu image hệ thống cloudflare/debian-trixie được chuẩn bị sẵn, giúp các agent có thể bắt đầu làm việc ngay lập tức mà không cần tốn thời gian build Dockerfile hay đẩy image lên hệ thống.

Những cải tiến này biến Cloudflare Containers trở thành một mảnh ghép hoàn hảo cho hệ sinh thái Workers và Durable Objects, cung cấp một không gian làm việc Linux đầy đủ, hiệu năng cao cho các ứng dụng AI hiện đại.

Nguồn tham khảo: Cloudflare Blog