Pramaana Labs gọi vốn 27 triệu USD để ứng dụng kiểm chứng hình thức vào AI

Khi các doanh nghiệp đang chật vật trong việc đưa các dự án AI từ giai đoạn thử nghiệm sang vận hành thực tế, vấn đề độ tin cậy trở thành ưu tiên hàng đầu. Pramaana Labs, một startup mới nổi, đang tìm cách giải quyết thách thức này bằng cách kết hợp các công cụ toán học hình thức với sức mạnh của các mô hình ngôn ngữ lớn (LLM).

Công ty vừa công bố vòng gọi vốn hạt giống trị giá 27 triệu USD, dẫn đầu bởi Khosla Ventures cùng sự tham gia của các quỹ đầu tư lớn như Accel, BoldCap, Nexus Venture Partners, Premji Invest và Unbound. Pramaana tập trung vào các lĩnh vực nhạy cảm như luật pháp, nghiên cứu dược phẩm và thuế — nơi mà sai sót có thể dẫn đến hậu quả nghiêm trọng.

CEO Ranjan Rajagopalan của Pramaana cho biết, hệ thống của họ vẫn vận hành trên nền tảng LLM truyền thống để duy trì khả năng xử lý ngôn ngữ tự nhiên. Tuy nhiên, điểm khác biệt nằm ở lớp kiểm chứng mang tính quyết định (deterministic layer) được xây dựng phía trên. Lớp này sử dụng các công cụ kiểm chứng hình thức, cụ thể là ngôn ngữ lập trình mã nguồn mở LEAN, vốn thường được dùng để xác thực các chứng minh toán học.

Cách tiếp cận này giúp đảm bảo kết quả đầu ra của AI tuân thủ nghiêm ngặt các quy tắc logic và pháp lý. Để hiện thực hóa điều này, Pramaana hợp tác với các chuyên gia đầu ngành, từ cựu ủy viên IRS Danny Werfel trong lĩnh vực thuế, cho đến các giáo sư từ những trường đại học danh tiếng như UC Berkeley hay IIT để giám sát các hệ thống về an ninh mạng và dược phẩm.

Theo Rajagopalan, nhiều vấn đề khó khăn nhất thế giới không phải là không thể giải quyết, mà là chưa được hình thức hóa. Bằng cách mã hóa các quy tắc chuyên ngành thành các hệ thống có thể thực thi, Pramaana kỳ vọng sẽ tạo ra một thế hệ AI đáng tin cậy hơn cho các ứng dụng quan trọng.

Nguồn tham khảo: TechCrunch