Netris gọi vốn 15 triệu USD từ a16z để tăng tốc vận hành các ‘neocloud’ AI

Cơn sốt AI đang thúc đẩy làn sóng đầu tư mạnh mẽ vào các trung tâm dữ liệu. Tuy nhiên, việc vận hành một trung tâm dữ liệu không hề đơn giản. Ngay cả khi đã giải quyết được vấn đề bảo mật cho GPU, thiết bị chuyển mạch (network switch) và lưu trữ, các đơn vị vận hành vẫn đối mặt với thách thức lớn trong việc cấu hình và quản lý hệ thống để đáp ứng nhu cầu đa dạng của khách hàng.

Việc chuẩn bị một trung tâm dữ liệu sẵn sàng cho các dịch vụ huấn luyện và suy luận AI có thể mất hàng tháng trời. Trong thời gian đó, các GPU đắt đỏ buộc phải nằm chờ, gây lãng phí chi phí vận hành đáng kể. Netris, một startup chuyên về tự động hóa mạng, tuyên bố họ có thể giải quyết vấn đề này cho các “neocloud” (các nhà cung cấp dịch vụ cloud mới nổi).

Nền tảng của Netris cung cấp khả năng trừu tượng hóa mạng (network abstraction), cho phép thay đổi cấu hình phần cứng linh hoạt và cô lập tài nguyên ở lớp phần cứng để hỗ trợ mô hình đa khách hàng (multi-tenancy). CEO Alex Saroyan cho biết, các giải pháp SDN truyền thống đang dần trở nên lỗi thời đối với AI vì lưu lượng truy cập quá lớn, đòi hỏi sự tăng tốc từ phần cứng thay vì chỉ dựa vào phần mềm thuần túy.

Điểm khác biệt của Netris là khả năng tương thích với nhiều nhà cung cấp (vendor-agnostic), hỗ trợ tốt các thiết bị mạng phổ biến cũng như máy chủ từ Nvidia và AMD. Công nghệ này hiện đã được triển khai tại hơn 35 cụm GPU trên toàn cầu, với tổng cộng khoảng một triệu GPU, phục vụ các tên tuổi lớn như Lightning AI, Foxconn, HPE và Telus.

Đáng chú ý, Netris không sử dụng AI để vận hành hệ thống của mình. Theo ông Saroyan, việc cấu hình hàng nghìn thiết bị chuyển mạch đòi hỏi sự chính xác, nhất quán và có tính lặp lại cao – những yếu tố mà các thuật toán truyền thống thực hiện tốt hơn so với AI hiện nay.

Với khoản đầu tư 15 triệu USD từ Andreessen Horowitz, Netris dự định mở rộng đội ngũ kỹ sư, tăng cường hỗ trợ thêm các nhà cung cấp phần cứng và bổ sung các tính năng mới cho nền tảng tự động hóa của mình.

Nguồn tham khảo: TechCrunch