Safeworld: Giải pháp đảm bảo an toàn cho robot tích hợp Generative AI

Xu hướng tích hợp các mô hình Generative AI vào robot đang mở ra kỷ nguyên mới cho tự động hóa, nhưng cũng đi kèm với rủi ro lớn: kiến trúc của các mô hình này không có tính dự đoán cao như các thuật toán truyền thống. Làm thế nào để đảm bảo một robot hình người thế hệ mới vận hành an toàn khi tương tác với con người?

Để giải quyết vấn đề này, Tiến sĩ Ding Zhao, Giám đốc phòng thí nghiệm Safe AI tại Đại học Carnegie Mellon, đã cùng với các chuyên gia Kyle Wong và Simo Rachidi thành lập Safeworld. Công ty vừa chính thức ra mắt sau giai đoạn hoạt động bí mật với vòng gọi vốn hạt giống trị giá hơn 12 triệu USD, dẫn đầu bởi Shine Capital và a16z Speedrun.

Thách thức từ tính xác suất của AI

Theo Tiến sĩ Zhao, thách thức lớn nhất nằm ở việc đánh giá rủi ro của các hệ thống dựa trên xác suất. Việc triển khai robot không chỉ cần công nghệ tiên tiến mà còn cần sự tin tưởng từ người dùng. Jonathan Lai, đối tác tại a16z Speedrun, nhấn mạnh rằng đây là thời điểm vàng để xây dựng các tiêu chuẩn an toàn công nghiệp, trước khi robot trở nên phổ biến trong các hộ gia đình và gây ra những sự cố đáng tiếc.

Mô phỏng thực tế để kiểm chứng an toàn

Safeworld tập trung vào việc đánh giá hệ thống điều khiển robot thông qua các môi trường mô phỏng có sự xuất hiện của các mô hình con người thực tế. Tương tự như cách các công ty xe tự lái như Tesla hay Wayve đang làm, Safeworld tạo ra các kịch bản phức tạp để kiểm tra phản ứng của robot trước những tình huống bất ngờ.

Ví dụ, trong một nhà máy, robot cần phải xác định được khoảng cách dừng an toàn khi gặp một người đang khuân vác đồ vật hoặc một người bất ngờ bị ngã. Việc lập trình cho robot nhận diện mọi tư thế và hành vi của con người (đứng, quỳ, chạy, vấp ngã) là cực kỳ khó khăn. Thay vì thử nghiệm trực tiếp đầy rủi ro, Safeworld sử dụng các công cụ như Genesis hoặc MuJoCo để chạy hàng nghìn kịch bản mô phỏng.

Vai trò của bên thứ ba trong kiểm định an toàn

Dù nhiều nhà sản xuất robot đã có công cụ kiểm thử nội bộ, Safeworld tin rằng thị trường cần một đơn vị độc lập để xác thực. Điều này không chỉ giúp đảm bảo tính khách quan mà còn tạo điều kiện chia sẻ thông tin về các trường hợp an toàn giữa các đối thủ cạnh tranh.

Vishal Dugar, CTO của Gritt Robotics – một đối tác của Safeworld, chia sẻ rằng việc chứng minh an toàn bằng toán học thuần túy là không khả thi. Thay vào đó, các hệ thống cần được kiểm chứng thực nghiệm thông qua các kịch bản đa dạng về ngoại hình, kích thước và hành vi con người. Safeworld đang định hình mô hình kinh doanh của mình để trở thành đơn vị tiên phong trong việc cung cấp dịch vụ kiểm định thiết yếu cho bất kỳ đơn vị nào muốn triển khai robot quy mô lớn.

Nguồn tham khảo: TechCrunch