OpenAI ra mắt chế độ ‘Ultrafast’, tăng tốc độ xử lý của GPT-5.6 Sol lên gấp 14 lần

OpenAI vừa chính thức công bố chế độ Ultrafast, một bước tiến mới nhằm tối ưu hóa hiệu suất cho mô hình AI mạnh mẽ nhất của hãng là GPT-5.6 Sol. Theo công bố, chế độ này có khả năng tăng tốc độ xử lý lên gấp 14 lần so với tiêu chuẩn, đạt ngưỡng 750 token mỗi giây.

Trước đây, để đạt được tốc độ phản hồi thời gian thực, người dùng thường phải đánh đổi bằng cách sử dụng các mô hình nhỏ hơn hoặc chuyên biệt hóa. Với Ultrafast, OpenAI khẳng định họ đang mở ra một hướng đi mới, tập trung vào việc gia tăng khối lượng công việc hữu ích được thực hiện trong mỗi giây.

Sự ra đời của Ultrafast đặt OpenAI vào thế cạnh tranh trực tiếp với các đối thủ như Anthropic, vốn cũng đã có những phiên bản tăng tốc cho mô hình Claude. Tuy nhiên, mức hiệu năng mà OpenAI công bố hiện đang vượt trội hơn đáng kể.

Hãng kỳ vọng Ultrafast sẽ trở thành công cụ đắc lực cho các doanh nghiệp trong nhiều lĩnh vực đòi hỏi tốc độ cao như:

• Phản ứng với sự cố (incident response)
• Dịch vụ và hỗ trợ khách hàng
• Phân tích thị trường tài chính
• Thương mại điện tử

Được biết, Ultrafast là kết quả từ sự hợp tác chiến lược giữa OpenAI và nhà sản xuất chip Cerebras. Hiện tại, tính năng này đang trong giai đoạn phát hành thử nghiệm (preview) cho một nhóm nhỏ khách hàng. OpenAI cho biết sẽ dần mở rộng quyền truy cập khi năng lực hệ thống và hạ tầng server được nâng cấp.

Nguồn tham khảo: TechCrunch