OpenAI mở rộng Decisions API: Cuộc đua khốc liệt trong phân khúc mô hình ra quyết định

OpenAI vừa chính thức đưa Decisions API vào danh mục sản phẩm khả dụng rộng rãi cho người dùng. Động thái này đánh dấu sự gia nhập của OpenAI vào thị trường các mô hình trí tuệ nhân tạo tốc độ cao và chi phí thấp – một phân khúc đang phát triển mạnh mẽ, điển hình là startup TypeSafe với định giá lên tới 7,6 tỷ USD nhờ mô hình Jev.

Mô hình ra quyết định (Decision Model) là gì?

Mô hình Jev của TypeSafe đã tạo ra một danh mục mới cho các mô hình học sâu (deep learning) đóng vai trò như các ‘siêu phân loại’. Thay vì tạo ra nội dung dài, chúng tập trung vào việc đưa ra lựa chọn từ một tập hợp các phương án cho trước, kèm theo chỉ số tự tin (confidence rating). Các nhà phát triển phần mềm nhận thấy rằng những mô hình này có thể thay thế LLM trong nhiều quy trình công việc, với tốc độ xử lý nhanh hơn đáng kể và chi phí vận hành thấp hơn nhiều.

Nikunj Handa, trưởng bộ phận sản phẩm API tại OpenAI, chia sẻ rằng đội ngũ của ông đã tối ưu hóa mô hình ChatGPT Luna để tạo ra phiên bản Decisions API. Thay vì xây dựng một mô hình hoàn toàn mới, họ tập trung vào việc tinh chỉnh để tăng tốc độ suy luận (inference) và giảm chi phí.

Hiệu suất vượt trội

Theo Handa, bước đột phá lớn nhất của Decisions API là tốc độ, rút ngắn thời gian phản hồi từ 1-3 giây xuống chỉ còn 100-180 mili giây. Trong các thử nghiệm ban đầu với các đối tác như Box, Datadog, Ramp và Speak, các kỹ sư đã ghi nhận sự cải thiện rõ rệt về thông lượng. Chẳng hạn, Speak đã cắt giảm thời gian xử lý giữa các tác vụ từ 1,4 giây xuống còn 0,13 giây.

Cuộc cạnh tranh khốc liệt

Hiện tại, thị trường đang chứng kiến sự cạnh tranh gay gắt từ nhiều phía. Các bảng xếp hạng như AIM System One Index hay Artificial Analysis Decision Index đang cho thấy sự ưu thế của các mô hình như D1 Ultra (từ Liquid) và Elephant-1 (từ Base Lab). Dù mô hình Jev của TypeSafe vẫn giữ vị trí cạnh tranh cao, OpenAI đang nỗ lực cải thiện bằng cách tích hợp thêm các phương thức (modality) về giọng nói và hình ảnh.

Một điểm thú vị là bài kiểm tra ‘JevMan’, nơi các mô hình AI chơi PacMan để đánh giá khả năng ra quyết định nhanh trong môi trường áp lực cao. Tại đây, mô hình Jev hiện vẫn đang dẫn đầu bảng xếp hạng.

Tương lai của Decisions API

OpenAI kỳ vọng rằng với việc tối ưu hóa hơn nữa, họ có thể đạt tới tốc độ 60 mili giây, mở ra khả năng xử lý theo thời gian thực cho từng khung hình video. Khi các mô hình này trở nên nhanh và rẻ hơn, chúng hứa hẹn sẽ giải phóng hàng loạt các trường hợp sử dụng (use cases) vốn chưa được khai thác trong các quy trình phần mềm hiện nay.

Nguồn tham khảo: TechCrunch