CEO DeepMind đề xuất thành lập cơ quan độc lập để kiểm soát các mô hình AI tiên tiến

Trong một bài đăng gần đây mang tên “A Framework for Frontier AI and the Dawning of a New Age”, Demis Hassabis, CEO của Google DeepMind, đã kêu gọi thành lập một cơ quan quản lý chuyên trách để giám sát việc phát hành các mô hình AI tiên tiến (frontier models). Ông đề xuất mô hình hoạt động tương tự như Cơ quan Quản lý Tài chính (FINRA), tập trung vào việc kiểm thử các mô hình và thiết lập quy chuẩn thực hành tốt nhất.

Theo đề xuất, giai đoạn đầu các phòng thí nghiệm AI sẽ tự nguyện chia sẻ mô hình với cơ quan này để đánh giá trong vòng 30 ngày trước khi công bố. Sau khi quy trình đánh giá chứng minh được tính hiệu quả, cơ chế này có thể được chính thức hóa, yêu cầu các mô hình phải vượt qua kiểm định mới được phép triển khai tại thị trường Mỹ. Ngoài ra, các đơn vị phát triển sẽ phối hợp với cơ quan này để xử lý các vulnerability (lỗ hổng) nghiêm trọng sau khi phát hành.

Hệ thống này được kỳ vọng sẽ khắc phục những hạn chế từ các đợt đánh giá ad-hoc trước đây của chính phủ Mỹ đối với các mô hình như Mythos của Anthropic hay Sol của OpenAI. Những đợt đánh giá đó từng vấp phải chỉ trích vì thiếu chuyên môn kỹ thuật và quy trình ra quyết định thiếu minh bạch. Cơ quan mới mà Hassabis đề xuất sẽ hoạt động độc lập, được chính phủ Mỹ hậu thuẫn nhưng vận hành dựa trên nguồn vốn từ chính ngành công nghiệp AI.

Dù việc quản lý AI vẫn là chủ đề gây tranh cãi, đặc biệt là với quan điểm của chính quyền hiện tại về việc không muốn thành lập một cơ quan quản lý kiểu “FDA cho AI”, Hassabis tin rằng mô hình tự quản lý theo kiểu FINRA sẽ là giải pháp cân bằng. Cơ quan này dự kiến sẽ quy tụ các chuyên gia kỹ thuật, đại diện từ cộng đồng mã nguồn mở và có thể thuê ngoài các đơn vị chuyên về an toàn AI để đánh giá các rủi ro cụ thể.

Hassabis nhấn mạnh: “Điểm mạnh của cách tiếp cận này là sự tập trung vào kỹ thuật, đồng thời hỗ trợ đổi mới và khuyến khích hành vi có trách nhiệm. Nó được thiết kế để bắt kịp tốc độ phát triển chóng mặt của lĩnh vực này và có thể thích ứng với những rủi ro lớn nhất khi chúng xuất hiện.”

Nguồn tham khảo: TechCrunch