OpenAI ra mắt Decisions API: Bước tiến mới trong việc kiểm soát các AI agent

Tại sự kiện Dev Day vừa diễn ra, CEO Sam Altman của OpenAI đã công bố một sản phẩm đáng chú ý mang tên Decisions API. Công cụ này được thiết kế để cung cấp các lựa chọn xác suất với tốc độ cao và chi phí thấp, tương tự như mô hình Jev mà TypeSafe AI đã ra mắt trước đó.

Decisions API là gì?

Thay vì để LLM tự xử lý toàn bộ quy trình vốn tốn kém và chậm chạp, Decisions API cho phép các nhà phát triển cung cấp một tập hợp các tùy chọn định sẵn cho mô hình (như Luna). Theo Altman, việc tập trung mô hình vào các lựa chọn cụ thể giúp duy trì khả năng hiểu hình ảnh và ngôn ngữ, đồng thời đảm bảo các tiêu chuẩn an toàn mà vẫn đạt được tốc độ xử lý vượt trội.

Diogo Almeida, CEO của TypeSafe AI, nhận định rằng hướng đi này cho thấy tương lai của việc xây dựng ứng dụng AI đang chuyển dịch sang mô hình “System One” – tập trung vào tư duy nhanh và trực quan thay vì các quy trình suy luận phức tạp (System 2).

Giải pháp bảo mật cho AI Agent

Một trong những ứng dụng hứa hẹn nhất của công nghệ này nằm ở lĩnh vực an ninh mạng. Hiện nay, việc giám sát các AI agent để ngăn chặn các hành vi sai lệch thường tiêu tốn rất nhiều tài nguyên tính toán. Chuyên gia an ninh mạng Shapor Naghibzadeh cho biết, các mô hình như Jev hoặc Decisions API có thể thay đổi cuộc chơi này.

Trong một bản demo gần đây, Naghibzadeh đã sử dụng Jev để kiểm tra từng hành động của AI agent so với nhiệm vụ được giao. Hệ thống có thể chặn các hành động đáng ngờ, gắn cờ các hành vi cần xem xét và cho phép các tác vụ an toàn được thực hiện. Đáng chú ý, chi phí vận hành cho phương pháp này thấp hơn đáng kể so với việc sử dụng các frontier LLM truyền thống.

Tương lai của các mô hình quyết định

Mặc dù Decisions API hiện mới chỉ ở giai đoạn xem trước (limited preview), nhưng sự quan tâm từ cộng đồng nhà phát triển là rất lớn. Các chuyên gia cho rằng, khả năng chạy giám sát trên mọi hành động của AI agent với chi phí thấp sẽ là lớp bảo vệ quan trọng, giúp cải thiện đáng kể độ tin cậy của các hệ thống tự động trong tương lai.

Cuộc đua giữa các ông lớn công nghệ trong việc phát triển các mô hình quyết định chuyên biệt chỉ mới bắt đầu, và chìa khóa thành công sẽ nằm ở chất lượng dữ liệu tổng hợp (synthetic data) được sử dụng để huấn luyện các mô hình này.

Nguồn tham khảo: TechCrunch