General Compute huy động 400 triệu USD: Bước ngoặt tài chính cho chip chuyên dụng AI

Trong một động thái cho thấy sự thay đổi trong chiến lược đầu tư hạ tầng AI, startup General Compute đã nhận được khoản vay trị giá 400 triệu USD từ công ty đầu tư Upper90. Đây được xem là thương vụ đầu tiên sử dụng các dòng chip chuyên dụng cho tác vụ inference (suy luận) làm tài sản thế chấp, thay vì các loại GPU đắt đỏ vốn thường được dùng để huấn luyện mô hình.

Khoản tài chính này phản ánh xu hướng thị trường đang dần chuyển dịch sang các hạ tầng vận hành mô hình mã nguồn mở với chi phí tối ưu hơn, thay vì phụ thuộc hoàn toàn vào các mô hình ngôn ngữ lớn (LLM) từ các phòng thí nghiệm AI hàng đầu.

Neocloud và bài toán tối ưu chi phí

Được thành lập bởi CEO Finn Puklowski và CTO Jason Goodison, General Compute tập trung xây dựng một hệ sinh thái neocloud chuyên biệt cho các tác vụ AI, sử dụng silicon từ SambaNova. Khác với các hạ tầng đa mục đích từ những nhà cung cấp cloud truyền thống như AWS hay Azure, neocloud được thiết kế tối ưu hóa riêng cho khối lượng công việc AI.

Dòng chip SN50 của công ty được thiết kế đặc biệt cho inference. Nhờ khả năng tiết kiệm điện năng và không yêu cầu hệ thống làm mát bằng chất lỏng phức tạp, các chip này có thể triển khai nhanh chóng tại nhiều trung tâm dữ liệu. General Compute khẳng định chip của họ mang lại tốc độ xử lý inference nhanh gấp 16 lần so với các cloud dựa trên GPU truyền thống.

Sự thay đổi trong tư duy đầu tư hạ tầng

Billy Libby, đồng sáng lập Upper90 và là cựu chuyên gia giao dịch tại Goldman Sachs, cho biết công ty đã có kinh nghiệm trong việc tài trợ cho các đơn hàng GPU từ năm 2021. Tuy nhiên, khi thị trường GPU trở nên bão hòa và được hiểu rõ hơn, các nhà đầu tư bắt đầu tìm kiếm những cơ hội mới trong lĩnh vực inference.

“Mọi người không nhất thiết cần một siêu máy tính, nhưng họ chắc chắn cần khả năng inference và AI hiệu quả,” Libby chia sẻ. Việc các công ty như OpenRouter hay Fireworks nhận được định giá cao cho thấy nhu cầu tiếp cận các mô hình mã nguồn mở đang tăng mạnh.

Thách thức vị thế độc tôn của Nvidia

Việc General Compute tiếp cận được các dòng chip ngoài hệ sinh thái Nvidia là một lợi thế cạnh tranh đáng kể. Tương tự như cách TensorWave hợp tác với AMD, việc đa dạng hóa nguồn cung chip giúp các nhà cung cấp hạ tầng không bị phụ thuộc vào một nhà cung cấp duy nhất, từ đó tối ưu hóa chi phí sở hữu (TCO).

CEO Finn Puklowski nhận định: “Đây không chỉ là câu chuyện một startup gọi vốn để mua thiết bị. Đây là tín hiệu cho thấy dòng vốn đang bắt đầu tổ chức lại, tạo ra sự phân mảnh trong thế độc tôn của Nvidia trên thị trường chip AI.”

Nguồn tham khảo: TechCrunch