Cloudflare ra mắt Clef: Bộ mô hình quyết định mã nguồn mở và nền tảng tinh chỉnh RL mới

Cloudflare vừa công bố bộ đôi mô hình quyết định (decision models) mới mang tên Clef và Clef-flash, hiện đã sẵn sàng trên nền tảng Workers AI. Khác với các mô hình ngôn ngữ lớn (LLM) truyền thống thường mang tính phi định hướng, các mô hình quyết định được thiết kế để đưa ra kết quả có cấu trúc, nhanh chóng và nhất quán, phục vụ trực tiếp cho các quy trình tự động hóa (agentic workflows).

Mô hình quyết định là gì?

Mô hình quyết định giúp các tác nhân (agents) xác định hành động dựa trên xác suất. Ví dụ, khi nhận một yêu cầu hỗ trợ khách hàng, mô hình sẽ phân loại mức độ khẩn cấp và chuyển hướng đến bộ phận phù hợp mà không cần sự can thiệp của con người. Tại Cloudflare, đội ngũ Threat Intelligence đã sử dụng Clef để phân loại các tên miền với tốc độ vượt trội, giúp rút ngắn thời gian xử lý so với các LLM thông thường.

Điểm khác biệt của Clef

Clef không chỉ dừng lại ở phân loại văn bản mà còn tích hợp bộ mã hóa hình ảnh (vision encoder), cho phép xử lý nội dung thị giác. Với cửa sổ ngữ cảnh (context window) lên tới 64k, Clef cung cấp khả năng xử lý dữ liệu đầu vào lớn hơn đáng kể so với các giải pháp hiện có trên thị trường. Các ưu điểm chính bao gồm:

• Tốc độ vượt trội: Tối ưu hóa độ trễ nhờ hạ tầng GPU tại biên (edge) của Cloudflare.
• Tương thích API: Hoàn toàn tương thích với chuẩn Jev-API, giúp việc chuyển đổi trở nên dễ dàng.
• Mã nguồn mở: Cloudflare đã phát hành trọng số mô hình trên Hugging Face theo giấy phép Apache 2.0.

Công nghệ đằng sau Clef

Clef sử dụng kiến trúc dựa trên Qwen, được tinh chỉnh để thực hiện các bước quyết định phi tự hồi quy (non-autoregressive). Thay vì tạo văn bản từng token, mô hình trích xuất lựa chọn từ các biểu diễn nội bộ, giúp tăng tốc độ xử lý đáng kể. Cloudflare cũng áp dụng kỹ thuật Reinforcement Learning for Calibrated Decisions (RLCD) để cải thiện độ chính xác và khả năng tổng quát hóa của mô hình.

Dịch vụ tinh chỉnh (Fine-tuning) và RL

Bên cạnh việc ra mắt mô hình, Cloudflare cũng giới thiệu dịch vụ tinh chỉnh Clef cho các nhu cầu đặc thù của doanh nghiệp. Thông qua sự hỗ trợ từ đội ngũ kỹ sư chuyên trách, khách hàng có thể huấn luyện mô hình dựa trên dữ liệu riêng. Trong tương lai, Cloudflare sẽ phát triển nền tảng tự phục vụ (self-serve) tích hợp với AI Gateway, Workers AI và các môi trường sandbox để khách hàng có thể tự triển khai các quy trình học tăng cường (RL) ngay trên hạ tầng của hãng.

Người dùng có thể bắt đầu trải nghiệm Clef ngay hôm nay thông qua tài liệu dành cho nhà phát triển hoặc thử nghiệm trực tiếp trên Hugging Face.

Nguồn tham khảo: Cloudflare Blog