Anthropic cảnh báo về khả năng đạt ngưỡng AI tự cải tiến (RSI)

Bên cạnh các báo cáo tài chính cho thấy doanh thu tăng trưởng mạnh mẽ nhưng chi phí vận hành cũng leo thang, Anthropic vừa đưa ra một thông tin đáng chú ý trong hồ sơ S-1A mới nhất của mình. Công ty này cảnh báo rằng họ đang tiến rất gần đến việc tạo ra một mô hình có khả năng Recursive Self-Improvement (RSI) – hay còn gọi là AI tự cải tiến.

RSI là cột mốc mà tại đó AI trở nên đủ thông minh để tự tối ưu hóa quá trình huấn luyện của chính nó, dẫn đến sự bùng nổ về năng lực vượt xa sự kiểm soát của con người. Đối với những người lo ngại về an toàn AI, đây là kịch bản “điểm không thể quay đầu”, nơi AI có thể phát triển thành một thực thể vượt tầm kiểm soát. Ngược lại, những người lạc quan coi đây là chìa khóa cho năng suất đột phá và các khám phá khoa học mới.

Anthropic thừa nhận họ đang đứng giữa ranh giới của cơ hội và rủi ro. Trong hồ sơ, công ty cho biết họ đã sử dụng AI trong quá trình nghiên cứu và phát triển (R&D), nhưng cũng nhấn mạnh: “Việc sử dụng AI để xây dựng các hệ thống AI mạnh mẽ hơn có thể gây ra rủi ro an toàn đáng kể, đặc biệt nếu nó đẩy nhanh tốc độ phát triển quá mức cho phép”.

Đáng chú ý, Anthropic thừa nhận hai điểm quan trọng:

• Họ từng sử dụng AI để phát triển các mô hình mới mà chính họ cũng không nhận ra sự nhảy vọt về năng lực tại thời điểm đó.
• Họ có thể sớm đạt đến định nghĩa nội bộ về RSI, nơi AI tạo ra sự tiến bộ đột phá mà con người không kịp kiểm soát hoặc xác thực kịp thời.

Mặc dù vậy, Anthropic khẳng định chưa có mô hình nào của họ vượt qua ngưỡng RSI này. Công ty cam kết duy trì sự giám sát của con người trong quá trình R&D: “Chúng tôi không dự đoán rằng mình có thể sử dụng Claude để thiết kế và xây dựng các thế hệ mô hình tiếp theo một cách hoàn toàn tự chủ mà không có sự can thiệp hoặc hiểu biết sâu sắc từ con người”.

Trong bối cảnh năng lực của Claude, đặc biệt là trong lĩnh vực lập trình, toán học và an ninh mạng, đã có những bước tiến vượt bậc trong năm nay, lời cảnh báo từ Anthropic cho thấy cộng đồng công nghệ cần nghiêm túc xem xét các khung quản trị và chính sách an toàn để kiểm soát sự phát triển của AI trong tương lai gần.

Nguồn tham khảo: TechCrunch