Lola Vision Systems: Giải pháp tối ưu hóa chạy mô hình AI trực tiếp trên chip

Việc triển khai các mô hình AI trên thiết bị phần cứng (edge computing) hiện nay vẫn là một bài toán hóc búa đối với nhiều doanh nghiệp. Lola Vision Systems, một startup có trụ sở tại Washington D.C., đang nỗ lực giải quyết nút thắt này bằng cách xây dựng hệ thống phần mềm và chip chuyên dụng giúp tối ưu hóa quá trình chạy AI.

Theo nhà sáng lập Tayo Adesanya, quy trình thiết lập thủ công một mô hình AI trên phần cứng mới có thể tiêu tốn tới 200 giờ làm việc chỉ để bắt đầu thử nghiệm. Sản phẩm cốt lõi của Lola Vision là một “compiler toolchain” – công cụ giúp chuyển đổi mã nguồn và các mô hình AI (dù là tùy chỉnh hay mã nguồn mở) thành các tập lệnh mà chip cụ thể có thể thực thi trực tiếp.

Giải quyết bài toán hiệu năng và năng lượng

Adesanya cho biết, mục tiêu của công ty không chỉ dừng lại ở tốc độ. Đối với các ngành đặc thù như hàng không vũ trụ hay các hệ thống yêu cầu độ tin cậy cao, việc chạy các mô hình chính xác với mức tiêu thụ điện năng thấp là yếu tố sống còn. Hiện nay, nhiều doanh nghiệp đang sử dụng các module như Nvidia Jetson, nhưng thường gặp tình trạng lỗi, hiệu năng kém hoặc tiêu thụ năng lượng vượt quá ngân sách cho phép, dẫn đến việc các mô hình nhận diện đối tượng hoạt động không ổn định.

Chiến lược kinh doanh và lộ trình phát triển

Thay vì chỉ tập trung vào việc sản xuất chip riêng, Lola Vision đã chọn chiến lược linh hoạt: cấp phép (license) phần mềm của mình để chạy trên các dòng chip hiện có trên thị trường. Cách tiếp cận này giúp công ty tạo ra doanh thu sớm hơn trong khi vẫn tiếp tục phát triển dòng chip bán dẫn chuyên dụng của riêng mình.

Hiện tại, startup này đã thu hút được hơn 1 triệu USD vốn đầu tư và nhận được sự quan tâm từ khoảng một chục khách hàng doanh nghiệp, với một hợp đồng chính thức đã được ký kết. Công ty cũng đang hợp tác với chương trình phát triển nhân lực vi điện tử SCALE để mở rộng khả năng nghiên cứu tại các phòng thí nghiệm bán dẫn.

Lola Vision Systems là một trong những cái tên nổi bật trong danh sách Startup Battlefield 200 của TechCrunch năm nay, đánh dấu bước tiến quan trọng trong việc đưa công nghệ của họ đến gần hơn với các nhà đầu tư và đối tác chiến lược.

Nguồn tham khảo: TechCrunch