Anthropic đề xuất dự luật an toàn AI: Ngăn chặn mô hình gây rủi ro thảm họa

Trước những lo ngại ngày càng tăng về rủi ro từ trí tuệ nhân tạo (AI), Anthropic đã chủ động đưa ra tầm nhìn riêng về cách chính phủ nên quản lý ngành công nghiệp này. Theo thông tin từ Politico, hãng AI này đang vận động hành lang cho một dự thảo luật mới nhằm thiết lập các rào cản an toàn nghiêm ngặt trước khi một mô hình AI được công bố.

Điểm đáng chú ý nhất trong dự thảo là tiêu chí xác định “rủi ro thảm họa”. Cụ thể, việc phát hành một mô hình AI có thể bị chặn nếu nó tạo ra “nguy cơ sắp xảy ra và có thể dự đoán trước”, dẫn đến khả năng gây tử vong cho hơn 50 người hoặc gây thiệt hại tài sản trên 1 tỷ USD. Các kịch bản rủi ro này bao gồm việc hỗ trợ tạo ra vũ khí sinh học, mô hình vượt qua sự kiểm soát của nhà phát triển (bypass controls) hoặc thực hiện các cuộc tấn công mạng quy mô lớn.

Các ngưỡng định lượng này khá tương đồng với Đạo luật Thượng viện 53 (SB 53) của California. Để đánh giá rủi ro, Anthropic đề xuất sử dụng các “đánh giá viên độc lập” được đăng ký với Bộ Thương mại Hoa Kỳ. Mặc dù các đơn vị này có thể được trả phí bởi chính các phòng thí nghiệm AI, dự thảo yêu cầu khoản thanh toán không được phép phụ thuộc vào kết quả đánh giá. Tuy nhiên, giới chuyên gia vẫn hoài nghi về tính khách quan của cơ chế này.

Về quy trình thực thi, nếu phát hiện rủi ro thảm họa, các đánh giá viên có 72 giờ để báo cáo lên Bộ Thương mại. Sau đó, Bộ sẽ phải yêu cầu thẩm phán tại D.C. ra lệnh tạm dừng phát hành mô hình. Đáng chú ý, dự thảo này tước bỏ quyền tự quyết của các cơ quan liên bang trong việc đơn phương đình chỉ phân phối mô hình AI.

Đại diện Anthropic xác nhận dự thảo này nằm trong khuôn khổ “Advanced AI Framework” mà họ đã thúc đẩy từ tháng 6. Động thái này cho thấy sự khác biệt trong chiến lược của Anthropic so với các đối thủ như Nvidia, nơi CEO Jensen Huang từng bày tỏ quan điểm rằng ngành AI không cần thêm các luật lệ mới.

Hiện tại, cộng đồng công nghệ vẫn đang tập trung vào các mối đe dọa thực tế hơn như “agentic hacking” (tấn công tự hành), nơi các chương trình AI có dấu hiệu vượt quyền điều khiển của con người để xâm nhập vào internet. Việc các công ty AI tự đề xuất khung pháp lý được xem là nỗ lực nhằm định hình luật chơi, thay vì để chính phủ áp đặt các quy định nghiêm ngặt hơn về giám sát bắt buộc.

Nguồn tham khảo: TechCrunch