Giải mã thuật ngữ AI mới trong giới lập trình: Từ Loop, Harness đến Squads

Sự xuất hiện liên tục của các công cụ AI đã mang đến một làn sóng từ vựng mới trong cộng đồng phát triển phần mềm. Một số thuật ngữ mô tả các mô hình làm việc hiệu quả, trong khi số khác chỉ là cách gọi mới cho những khái niệm đã tồn tại từ lâu. Dưới đây là hướng dẫn giúp bạn hiểu rõ hơn về những thuật ngữ này.

Loop engineering: Vượt xa prompt đơn lẻ

Loop engineering là việc thiết kế các hệ thống có khả năng lặp lại xung quanh các AI agent, thay vì chỉ gửi các câu lệnh (prompt) thủ công cho từng tác vụ đơn lẻ. Hãy hình dung nó giống như một “cron job” dành riêng cho AI: thay vì yêu cầu agent kiểm tra issue mỗi sáng, bạn thiết lập một vòng lặp tự động để lấy dữ liệu, xử lý, xác thực kết quả và xử lý các lỗi phát sinh.

Ralph loops: Phiên bản “brute-force”

Ralph loop là một cách triển khai cụ thể của loop engineering. Agent sẽ được giao một nhiệm vụ chi tiết và liên tục thực hiện cho đến khi hoàn thành. Mặc dù hữu ích trong việc chia nhỏ các tác vụ phức tạp thành chu trình “lập kế hoạch – hành động – kiểm tra”, nhưng nó có thể gây tốn kém tài nguyên và chi phí token nếu không được thiết kế tối ưu.

Squads, fleets và quy trình đa agent

Nếu loop định nghĩa quy trình làm việc, thì “squads” và “fleets” mô tả cách các agent phối hợp:

• Squad: Một nhóm các agent với vai trò chuyên biệt (lập kế hoạch, thực thi, kiểm tra, review), mô phỏng một đội ngũ nhân sự thực tế.
• Fleet: Các agent hoạt động song song để xử lý nhiều tác vụ cùng lúc.

Mục tiêu cốt lõi ở đây là sự chuyên môn hóa và song song hóa, giúp hệ thống vận hành hiệu quả hơn thay vì để một agent duy nhất đảm nhận mọi việc.

Harnesses: Hệ thống bao quanh mô hình

Harness là tất cả các thành phần bao quanh một model AI để giúp nó trở nên hữu ích trong quy trình thực tế, bao gồm công cụ, quyền truy cập, bộ nhớ và khả năng điều phối. Ví dụ điển hình là GitHub Copilot – nó kết nối các model với codebase, trình soạn thảo và terminal. “Harness engineering” chính là công việc thiết kế và tối ưu hóa hệ thống bao quanh các model này.

Hill climbing: Cải thiện agent qua phản hồi

Đây là quá trình tinh chỉnh agent và harness theo thời gian. Bằng cách sử dụng các bài đánh giá (evals) để đo lường hiệu suất, lập trình viên sẽ điều chỉnh hệ thống để agent đưa ra kết quả chính xác và hữu ích hơn sau mỗi lần chạy.

Forward deployed engineer

Đây không phải là vai trò hoàn toàn mới, nhưng được làm mới dưới góc nhìn AI. Về cơ bản, đây là các kỹ sư phần mềm hoặc kỹ sư giải pháp làm việc trực tiếp với khách hàng, tập trung vào việc tích hợp các công cụ AI, workflow và agent vào môi trường thực tế của doanh nghiệp.

Phân biệt Closed models, Open weights và Open source models

• Closed models: Truy cập qua API, người dùng không biết về trọng số (weights), dữ liệu huấn luyện hay quy trình đào tạo.
• Open weights: Cung cấp trọng số mô hình để chạy cục bộ hoặc trên hạ tầng riêng, nhưng dữ liệu huấn luyện có thể không công khai.
• Open source models: Công khai toàn bộ từ mã nguồn, dữ liệu đến quy trình huấn luyện, cho phép kiểm tra và tùy chỉnh tối đa.

Dù thuật ngữ có thay đổi thế nào, điều quan trọng nhất vẫn là bản chất của công việc: xây dựng các quy trình có khả năng lặp lại, xác thực kết quả và cải thiện hệ thống một cách bền vững.

Nguồn tham khảo: GitHub Blog