Cựu giám đốc AI của Databricks tham vọng cắt giảm 1.000 lần chi phí điện năng cho AI

Trong bối cảnh cơn sốt AI đang tiêu tốn nguồn lực năng lượng khổng lồ, một startup mới mang tên Unconventional AI, đứng đầu bởi Naveen Rao (cựu giám đốc AI tại Databricks), đang đặt mục tiêu tái định nghĩa kiến trúc máy tính từ nền tảng. Công ty này kỳ vọng sẽ giải quyết bài toán hiệu suất năng lượng trong quá trình xử lý inference (suy luận) của AI.

Sản phẩm đầu tay của họ, mô hình Un-0, là một hệ thống tạo ảnh (image-generation) cho thấy khả năng tái lập hiệu suất tương đương với các mô hình diffusion hiện đại. Điểm đột phá nằm ở chỗ, Un-0 không chạy trên các kiến trúc chip truyền thống hay GPU thông thường, mà dựa trên một kiến trúc máy tính dựa trên dao động (oscillator-based architecture) hoàn toàn mới.

Theo chia sẻ của Rao, dù hiện tại Un-0 mới chỉ chạy trên môi trường mô phỏng phần mềm, nhưng công ty đang tiến tới việc công bố sơ đồ thiết kế cho dòng chip vật lý thực tế. Tầm nhìn dài hạn của Unconventional AI là xây dựng một hệ thống hạ tầng hoàn chỉnh, nơi các mô hình AI được vận hành với mức tiêu thụ năng lượng chỉ bằng 1/1.000 so với hiện nay.

Rao nhấn mạnh rằng năng lượng chính là giới hạn vật lý lớn nhất đối với sự phát triển của AI trong những năm tới. Với quy mô đội ngũ dưới 50 nhân sự, Unconventional AI đang nỗ lực giải quyết vấn đề này bằng cách thay đổi tận gốc cách thức tính toán của phần cứng, thay vì chỉ tối ưu hóa phần mềm.

Nếu thành công, đây sẽ là một bước ngoặt quan trọng cho ngành công nghiệp, khi nhu cầu về compute capacity cho AI ngày càng tăng cao trong khi nguồn cung năng lượng đang dần trở thành rào cản lớn nhất cho việc mở rộng quy mô.

Nguồn tham khảo: TechCrunch