Cloudflare Workers và Containers chính thức hỗ trợ kết nối TCP inbound và gRPC

Trong bối cảnh AI đang thay đổi cách người dùng tương tác với máy tính, đặc biệt là thông qua giao diện giọng nói, nhu cầu về các kết nối có độ trễ thấp giữa client, mô hình AI và dịch vụ hỗ trợ trở nên cấp thiết hơn bao giờ hết. Nhiều nhà phát triển hiện đang sử dụng gRPC—một framework Remote Procedure Call (RPC) dựa trên HTTP/2 và TCP—để xây dựng hạ tầng này.

Bước tiến mới cho Cloudflare Workers

Cloudflare vừa thông báo mở rộng khả năng của Workers, cho phép xử lý các kết nối TCP inbound và cung cấp phương thức mới để vận hành ứng dụng gRPC. Các tính năng chính bao gồm:

• connect(socket): Một trình xử lý (handler) mới trong runtime của Workers, cho phép Worker trực tiếp tiếp nhận các socket TCP inbound từ Spectrum (proxy ingress của Cloudflare dành cho lưu lượng không phải HTTP).
• Hỗ trợ gRPC hai chiều (bi-directional): Cho phép chuyển tiếp socket từ Worker đến server gRPC chạy trong container.
• Tích hợp gRPC-web: Workers giờ đây có thể phục vụ các API gRPC (unary và server-streaming) và kết nối tới các server gRPC bên ngoài thông qua cơ chế tự động chuyển đổi giữa gRPC và gRPC-web.

Kiểm soát toàn diện với connect(socket)

Với trình xử lý connect() mới, nhà phát triển có thể điều hướng các kết nối TCP từ client đến Worker, sau đó chuyển tiếp tới các Durable Objects hoặc trực tiếp tới server chạy trong container. Điều này mang lại sự linh hoạt tối đa, cho phép chạy bất kỳ chương trình nào, bằng bất kỳ ngôn ngữ nào, hỗ trợ mọi giao thức dựa trên TCP trên hạ tầng của Cloudflare.

Triển khai gRPC trên quy mô toàn cầu

Việc hỗ trợ gRPC hai chiều từ Cloudflare Containers giúp các nhà phát triển tận dụng mạng lưới hơn 330 địa điểm của Cloudflare để xử lý yêu cầu gần với người dùng cuối hơn. Điều này đặc biệt quan trọng cho các ứng dụng AI giọng nói thời gian thực đòi hỏi kết nối bền vững và độ trễ cực thấp.

Đối với các ứng dụng đơn giản hơn, Cloudflare cung cấp giải pháp chuyển đổi tự động giữa gRPC và gRPC-web. Nhờ đó, mã nguồn của bạn có thể sử dụng gRPC-web, nhưng khi giao tiếp với thế giới bên ngoài, hệ thống sẽ tự động chuyển đổi sang gRPC tiêu chuẩn. Điều này giúp các ứng dụng di động hoặc các backend gRPC hiện có có thể kết nối với Workers mà không cần thay đổi cấu trúc mã nguồn.

Lộ trình phát triển

Hiện tại, các tính năng này đang trong giai đoạn private beta. Cloudflare đang làm việc chặt chẽ với một nhóm nhà phát triển để hoàn thiện trải nghiệm trước khi mở rộng cho toàn bộ người dùng. Trong tương lai, nền tảng này dự kiến sẽ tiếp tục mở rộng sang các giao thức dựa trên UDP, tiếp tục phá vỡ các giới hạn về loại hình lưu lượng mà Workers có thể phục vụ.

Nguồn tham khảo: Cloudflare Blog