GitHub giới thiệu Project HydraFusion: Tối ưu hóa chất lượng code thông qua điều phối đa mô hình

GitHub vừa chính thức giới thiệu Project HydraFusion, một bước tiến mới trong việc nâng cao chất lượng phản hồi của AI thông qua kỹ thuật điều phối mô hình tại thời điểm thực thi (runtime orchestration). Thay vì phụ thuộc vào một mô hình duy nhất, HydraFusion tự động xây dựng kế hoạch thực thi, lựa chọn và kết hợp các mô hình từ nhiều nhà cung cấp khác nhau để thực hiện các tác vụ như soạn thảo, phản biện và chỉnh sửa code.

Cơ chế hoạt động của HydraFusion

HydraFusion coi việc lựa chọn quy trình làm việc là một bài toán tối ưu hóa. Hệ thống sử dụng các tín hiệu về khả năng suy luận, tạo mã, gỡ lỗi và sử dụng công cụ để chọn ra mô hình hiệu quả nhất. Hiện tại, HydraFusion áp dụng ba mô hình thực thi chính:

• Single (Đơn lẻ): Một mô hình được chọn để giải quyết trực tiếp tác vụ.
• Cascade (Phân tầng): Một mô hình hiệu quả sẽ soạn thảo giải pháp ban đầu, sau đó một ‘cổng chất lượng’ sẽ quyết định chấp nhận hoặc chuyển tiếp sang mô hình mạnh hơn nếu cần thiết.
• Critique (Phản biện): Một mô hình soạn thảo kết quả, sau đó một mô hình khác từ gia đình mô hình độc lập sẽ đánh giá và yêu cầu mô hình đầu tiên chỉnh sửa lại.

Các nguyên tắc vận hành cốt lõi

Để đảm bảo trải nghiệm lập trình ổn định, HydraFusion được xây dựng dựa trên năm nguyên tắc kỹ thuật:

• Hạch toán toàn diện: Theo dõi chi phí và mức độ sử dụng trên mọi bước thực thi.
• Giới hạn thực thi: Thiết lập thời gian chờ (timeout) và cơ chế hủy bỏ để kiểm soát chi phí.
• Đánh giá cô lập: Các bước phản biện được thực hiện trong môi trường biệt lập, không can thiệp trực tiếp vào kho lưu trữ (repository).
• Ứng dụng an toàn: Không áp dụng bất kỳ thay đổi nào (patch) nếu quy trình bị hủy hoặc không vượt qua kiểm định.
• Định tuyến đã xác thực: Kiểm tra tính khả dụng của mô hình và các định nghĩa quy trình trước khi bắt đầu.

Kết quả thử nghiệm

Trong các đánh giá ngoại tuyến trên các benchmark như TerminalBench 2.1, DeepSWE và CheckpointBench, HydraFusion cho thấy khả năng duy trì chất lượng ở mức cao trong khi giảm đáng kể chi phí vận hành. Cụ thể, trên TerminalBench 2.1, hệ thống đã cải thiện chất lượng tác vụ thêm 4,9 điểm phần trăm với chi phí ước tính thấp hơn 67% so với Claude Opus 5.

Hiện tại, Project HydraFusion đang ở giai đoạn nghiên cứu thử nghiệm. GitHub khuyến khích các lập trình viên trải nghiệm với các tác vụ lập trình đơn lẻ, có phạm vi rõ ràng thông qua Copilot CLI để đóng góp phản hồi, giúp đội ngũ phát triển tối ưu hóa hơn nữa về độ trễ, độ tin cậy và hiệu quả chi phí trong tương lai.

Nguồn tham khảo: GitHub Blog