Underdog ra mắt mô hình AI giọng nói chỉ 32MB, chạy mượt mà trên trình duyệt

Trong khi các ông lớn công nghệ đang chạy đua phát triển những mô hình AI khổng lồ đòi hỏi sức mạnh tính toán khủng khiếp, một hướng đi khác đang dần định hình: các mô hình nhỏ gọn (edge AI) có thể chạy trực tiếp trên điện thoại hoặc máy tính cá nhân. Startup Underdog là cái tên mới nhất gây chú ý khi trình làng mô hình giọng nói có tên Woof, với dung lượng cực kỳ khiêm tốn chỉ 32MB.

Để chứng minh khả năng của công nghệ này, Underdog đã phát hành một bản demo dưới dạng trò chơi tương tác. Trong không gian giả lập mang phong cách retro, người dùng có thể sử dụng bàn phím để nhập văn bản và hệ thống sẽ chuyển đổi thành giọng nói ngay lập tức. Ngoài ra, mô hình này còn có khả năng tạo ra các đoạn nhạc tùy chỉnh thông qua một bộ chỉnh âm ảo.

Điểm đáng chú ý nhất là toàn bộ quá trình xử lý diễn ra ngay trên trình duyệt web. Theo Underdog, mô hình với 31 triệu tham số này có thể hoạt động ổn định trên hầu hết các thiết bị mà không cần tới kết nối internet hay sự hỗ trợ từ server cloud. Điều này không chỉ giúp bảo mật dữ liệu người dùng mà còn giảm thiểu sự phụ thuộc vào các nhà cung cấp dịch vụ đám mây.

Sigil Wen, nhà sáng lập Underdog, chia sẻ rằng mục tiêu của công ty là xây dựng các mô hình AI nguồn mở, có khả năng vận hành cục bộ để người dùng thực sự làm chủ dữ liệu của mình. Ông tin rằng trong vài tháng tới, các thiết bị cá nhân hiện nay hoàn toàn có thể chạy được những mô hình AI mạnh mẽ nhất hiện nay.

Trước đó, Underdog cũng đã ra mắt Bark, một mô hình speech-to-text dung lượng 167MB phục vụ cho nhu cầu ghi chép và đọc chính tả. Bên cạnh các mô hình giọng nói, startup này còn phát triển một mô hình 27 tỷ tham số tối ưu cho laptop, hướng tới việc trở thành giải pháp thay thế cho các ứng dụng AI thương mại hiện có nhưng được lưu trữ cục bộ (locally hosted).

Dù các mô hình nhỏ gọn này khó có thể thay thế hoàn toàn những hệ thống AI quy mô lớn, nhưng chúng mở ra tiềm năng ứng dụng rất lớn cho các trợ lý ảo cá nhân hoặc tạo nội dung âm thanh riêng biệt ngay trên thiết bị của người dùng.

Nguồn tham khảo: TechCrunch