Cloudflare ra mắt Clef-omni: Mô hình quyết định đa phương thức, tăng tốc và giảm giá Clef-flash

Sau khi giới thiệu dòng mô hình quyết định (decision models) Clef và Clef-flash vào tuần trước, Cloudflare tiếp tục mở rộng hệ sinh thái này với sự ra đời của Clef-omni. Đây là bước tiến quan trọng cho phép mô hình xử lý đa phương thức (multimodal) bao gồm âm thanh, video, hình ảnh và văn bản trong cùng một quy trình duy nhất.

Clef-omni: Đa phương thức trong một API

Thay vì phải thiết lập các đường ống (pipeline) phức tạp để chuyển đổi giọng nói thành văn bản hoặc tách biệt các kênh dữ liệu, Clef-omni cho phép người dùng đưa trực tiếp các tệp âm thanh (wav, mp3) và video (mp4, webm) vào mô hình để đưa ra quyết định. Được xây dựng trên nền tảng mixture-of-experts (MoE) Qwen3-Omni-30B-A3B-Instruct, mô hình này loại bỏ nhu cầu tạo token đầu ra (output token generation) vốn thường thấy ở các mô hình ngôn ngữ lớn (LLM), từ đó giảm thiểu đáng kể độ trễ.

Clef-omni sử dụng cơ chế định tuyến chú ý hai giai đoạn (two-stage attention routing), cho phép mô hình trích xuất thông tin từ mọi loại dữ liệu đầu vào để tính toán điểm tin cậy (confidence scores) một cách nhanh chóng và chính xác.

Tối ưu hóa chi phí và tốc độ

Cloudflare cũng thực hiện các thay đổi đáng chú ý về mặt thương mại và kỹ thuật:

• Giảm giá Clef-flash: Mức giá cho Clef-flash đã giảm từ $0.09 xuống còn $0.038 mỗi triệu token đầu vào, giúp nó trở nên cạnh tranh hơn so với Jev. Để đạt được mức giá này, cửa sổ ngữ cảnh (context window) của phiên bản Clef-flash trên cloud được điều chỉnh xuống 24k, trong khi trọng số mô hình trên Hugging Face vẫn hỗ trợ 256k cho nhu cầu tự lưu trữ (self-host).
• Tăng tốc Clef: Bằng cách chuyển sang sử dụng SGLang cho hạ tầng phục vụ (serving infrastructure), tốc độ phản hồi của Clef đã được cải thiện đáng kể, với mức tăng tốc trung bình từ 1.7x đến 2.0x tùy thuộc vào kích thước đầu vào.

Ứng dụng thực tế tại Cloudflare

Các mô hình Clef hiện đang được đội ngũ Cloudflare ứng dụng rộng rãi trong nhiều tác vụ quan trọng như:

• Tự động phát hiện và đóng các vấn đề (issue) spam trên kho lưu trữ GitHub.
• Kiểm duyệt các thư viện plugin để ngăn chặn phishing.
• Quét dữ liệu để tìm kiếm thông tin định danh cá nhân (PII) phục vụ mục tiêu ngăn chặn mất mát dữ liệu (DLP).
• Hỗ trợ đội ngũ tình báo đe dọa (threat intelligence) trong việc phát hiện các tên miền độc hại.

Người dùng có thể truy cập tài liệu dành cho nhà phát triển của Cloudflare để bắt đầu tích hợp các mô hình này vào quy trình làm việc của mình.

Nguồn tham khảo: Cloudflare Blog