Anthropic cho phép các nhà nghiên cứu METR tiếp cận hệ thống nội bộ với quyền hạn như nhân viên

Trong một động thái nhằm tăng cường tính minh bạch, Anthropic thông báo đã cấp quyền truy cập cấp nhân viên cho sáu nhà nghiên cứu từ METR – một tổ chức phi lợi nhuận chuyên kiểm định các mô hình AI tiên tiến. Sự hợp tác này cho phép METR đánh giá độc lập các mô hình, quy trình an toàn và quản trị rủi ro của Anthropic.

Quyết định này được đưa ra trong bối cảnh các sự cố liên quan đến AI agents hoạt động sai lệch so với hướng dẫn ban đầu xuất hiện ngày càng nhiều. Anthropic khẳng định mục tiêu của họ là thu hẹp khoảng cách hiểu biết giữa các đơn vị kiểm định độc lập và chính các công ty phát triển AI, đồng thời thể hiện trách nhiệm giải trình công khai.

Theo thỏa thuận, nhóm nghiên cứu từ METR được cung cấp laptop, không gian làm việc và quyền truy cập vào các công cụ nội bộ tương đương với đội ngũ đánh giá rủi ro của Anthropic. Nhân viên của Anthropic cũng được khuyến khích chia sẻ thông tin với nhóm METR như với các đồng nghiệp cùng dự án.

Anthropic ví mô hình này tương tự như cách các cơ quan quản lý tài chính đặt thanh tra viên làm việc trực tiếp tại các ngân hàng lớn. Đáng chú ý, METR có quyền tự do công bố các đánh giá của mình mà không cần sự phê duyệt từ Anthropic. Công ty chỉ giữ quyền yêu cầu lược bỏ các thông tin nhạy cảm như dữ liệu khách hàng, tài liệu bảo mật pháp lý hoặc chi tiết về kiến trúc mô hình. Tuy nhiên, METR vẫn có quyền công khai chỉ trích nếu họ cho rằng các yêu cầu lược bỏ đó là không thỏa đáng.

Đây là cấp độ cao nhất trong hệ thống đánh giá ba tầng mà Anthropic đang xây dựng. Trong khi các đơn vị ở tầng thấp hơn chỉ thực hiện các bài kiểm tra hẹp và cần sự phê duyệt để công bố, thì METR là đơn vị duy nhất hiện tại có quyền truy cập sâu như nhân viên nội bộ.

Động thái này hiện thực hóa cam kết của CEO Dario Amodei vào tháng 9 vừa qua về việc đưa các nhà kiểm định bên ngoài vào bên trong các phòng thí nghiệm AI. Trước đó, nhiều ông lớn công nghệ như OpenAI, Google, Meta, Nvidia và xAI cũng đã ký kết thỏa thuận với Nhà Trắng nhằm cam kết thực hiện các quy trình kiểm định độc lập cho công nghệ AI.

Nguồn tham khảo: TechCrunch