Cloudflare ra mắt Agents SDK và hỗ trợ framework Flue: Bước tiến mới cho AI Agent trong môi trường production

Năm 2026 đánh dấu bước ngoặt khi các agent harness (công cụ điều khiển AI) chuyển mình từ giai đoạn thử nghiệm sang vận hành thực tế (production). Tuy nhiên, việc duy trì sự ổn định cho các agent trong môi trường cloud vẫn là một thách thức lớn đối với các kỹ sư.

Kiến trúc ba tầng cho AI Agent

Để giải quyết các bài toán về trạng thái, lưu trữ và tính toán, Cloudflare đề xuất mô hình ba tầng giúp xây dựng AI cấp độ doanh nghiệp:

• Framework (Flue): Cung cấp cấu trúc dự án, các quy ước, tích hợp và trải nghiệm lập trình (DX) để xây dựng agent.
• Harness (Pi, Project Think): Đảm nhận vòng lặp agentic, quản lý ngữ cảnh và thực thi các công cụ cho đến khi hoàn thành nhiệm vụ.
• Runtime/Platform (Cloudflare Agents SDK): Cung cấp các nguyên hàm (primitives) về tính toán, trạng thái và lưu trữ.

Flue: Framework khai báo cho AI Agent

Flue (hiện đang ở bản 1.0 Beta) áp dụng mô hình khai báo: thay vì viết kịch bản cho agent, lập trình viên chỉ cần mô tả những gì agent cần biết (model, kỹ năng, sandbox, hướng dẫn). Điểm nổi bật của Flue bao gồm:

• Durable Streams: Mỗi sự kiện trong lịch sử thực thi được ghi lại vào một nhật ký không thể thay đổi, giúp agent có thể khôi phục trạng thái ngay lập tức nếu xảy ra sự cố.
• Tích hợp linh hoạt: Hỗ trợ kết nối với Slack, GitHub, Linear hoặc Discord thông qua các channel được cấu hình sẵn.
• Khả năng triển khai đa nền tảng: Chạy được trên Node.js hoặc tận dụng sức mạnh của Cloudflare Durable Objects để tự động mở rộng mà không cần quản lý server.

Sức mạnh từ Cloudflare Agents SDK

Việc triển khai trên Cloudflare mang lại cho các agent những lợi thế kỹ thuật quan trọng:

• Durable Execution: Sử dụng runFiber() và stash() để checkpoint tiến trình, đảm bảo agent không bị mất ngữ cảnh khi bị gián đoạn.
• Code Mode: Thay vì quá tải agent với hàng loạt công cụ, mô hình này cho phép agent tự viết mã TypeScript/JavaScript để thực thi tác vụ. Cloudflare sử dụng Dynamic Workers để chạy các đoạn mã này trong môi trường cô lập, an toàn và chi phí thấp.
• Durable Virtual Filesystem: Thông qua @cloudflare/shell, agent có thể thao tác với tệp tin (đọc, ghi, grep, diff) ngay trong Durable Object mà không cần đến container cồng kềnh.
• Dynamic Workflows: Hỗ trợ các quy trình phức tạp, nhiều bước, có khả năng tự phục hồi và chờ đợi các sự kiện bên ngoài như phê duyệt từ con người.

Với bộ công cụ này, Cloudflare không chỉ cung cấp giải pháp cho các ứng dụng nội bộ như Project Think mà còn mở rộng khả năng cho toàn bộ hệ sinh thái mã nguồn mở, giúp các nhà phát triển xây dựng AI Agent bền bỉ, tiết kiệm chi phí và dễ dàng mở rộng.

Nguồn tham khảo: Cloudflare Blog