CEO Anthropic đề xuất lộ trình ‘kiểm soát tốc độ’ phát triển AI

Trong bối cảnh những cảnh báo về rủi ro của trí tuệ nhân tạo (AI) ngày càng trở nên nghiêm trọng, CEO Dario Amodei của Anthropic đã chính thức đề xuất một chiến lược cụ thể nhằm “kiểm soát tốc độ” (pace the frontier) của lĩnh vực này. Ông nhấn mạnh rằng sự tiến bộ quá nhanh của AI, đặc biệt là khả năng tự cải tiến của các mô hình, đòi hỏi một cách tiếp cận thận trọng hơn.

Ba trụ cột trong chiến lược của Anthropic

Amodei đã vạch ra ba hướng đi chính để đảm bảo sự phát triển của AI nằm trong tầm kiểm soát:

• Đánh giá viên nhúng (Embedded Evaluators): Anthropic cam kết cho phép các tổ chức bên thứ ba như METR đưa nhân sự vào làm việc trực tiếp tại công ty. Những đánh giá viên này sẽ có quyền truy cập vào hệ thống, dữ liệu và quy trình tương đương với các đội ngũ đánh giá rủi ro nội bộ để xác minh các cam kết về an toàn.
• Phối hợp tiêu chuẩn an toàn: Amodei kêu gọi các công ty AI hàng đầu tại các quốc gia dân chủ cùng thiết lập các tiêu chuẩn an toàn chung và giới hạn tốc độ phát triển. Ông cũng đề xuất chính phủ Mỹ cần đóng vai trò trung gian để tạo điều kiện cho các thảo luận này mà không vi phạm luật chống độc quyền.
• Điều phối toàn cầu: Dù thừa nhận những thách thức lớn, Amodei cho rằng cần có sự hợp tác với các quốc gia khác, bao gồm cả Trung Quốc, để ngăn chặn những ứng dụng nguy hiểm của AI, chẳng hạn như việc sử dụng AI để sản xuất vũ khí sinh học.

Thách thức về lòng tin và sự hoài nghi

Đề xuất của Amodei xuất hiện trong thời điểm nhạy cảm khi nội bộ ngành AI đang có những tranh cãi gay gắt về đạo đức và rủi ro tồn vong. Một số chuyên gia đã từ chức vì lo ngại các công ty đang “đánh cược với mạng sống con người”.

Tuy nhiên, kế hoạch này cũng vấp phải sự hoài nghi. Nhiều nhà phê bình cho rằng những cảnh báo về “ngày tận thế do AI” chỉ là chiêu trò để các ông lớn công nghệ thiết lập “rào cản pháp lý” (regulatory capture), nhằm củng cố vị thế độc quyền và ngăn chặn các đối thủ nhỏ hơn. Brian Merchant, một nhà báo công nghệ, đặt câu hỏi về tính xác thực của các kịch bản AI hủy diệt nhân loại và cho rằng đây có thể là cách để Anthropic và OpenAI kiểm soát cuộc chơi.

Dù vậy, Amodei khẳng định ông vẫn tin tưởng vào tiềm năng cải thiện chất lượng cuộc sống của AI. Ông nhấn mạnh: “Chúng ta cần xây dựng công nghệ này một cách đúng đắn, và việc dành thời gian để làm điều đó là hoàn toàn xứng đáng”.

Nguồn tham khảo: TechCrunch