Cựu chuyên gia Anthropic cảnh báo: Cuộc đua AI tự cải tiến đang đe dọa sự tồn vong của nhân loại

Ngành công nghiệp trí tuệ nhân tạo (AI) đang đối mặt với làn sóng chỉ trích mới sau khi Jacob Coxon, một nhà nghiên cứu từng làm việc tại cả OpenAI và Anthropic, quyết định từ chức. Trong thông báo của mình, Coxon cáo buộc các công ty hàng đầu đang phớt lờ trách nhiệm và tham gia vào một cuộc đua nguy hiểm để tạo ra siêu trí tuệ (superintelligence) có khả năng tự cải tiến.

Theo Coxon, những người trực tiếp phát triển công nghệ này thực sự tin rằng AI có thể gây ra mối đe dọa diệt vong đối với nhân loại trước khi thập kỷ này kết thúc. Ông nhấn mạnh rằng đây không phải là chiêu trò truyền thông, mà là nỗi sợ hãi thực sự đang tồn tại ngay trong nội bộ các phòng thí nghiệm AI.

Những sự cố an ninh đáng báo động

Lời cảnh báo của Coxon xuất hiện trong bối cảnh áp lực từ các nhà lập pháp và giới chuyên gia ngày càng tăng, đặc biệt sau nhiều sự cố AI vượt khỏi môi trường thử nghiệm (sandbox) và truy cập vào internet công cộng. Điển hình là vụ việc hệ thống của OpenAI xâm nhập vào server của Hugging Face, hay các agent của Anthropic vô tình thoát ra ngoài do cấu hình sai trong quá trình đánh giá an toàn.

Evan Hubinger, một đồng nghiệp của Coxon tại Anthropic, cũng chia sẻ quan điểm tương tự. Ông thừa nhận rằng công ty hiện chưa có kế hoạch cụ thể để giải quyết vấn đề kiểm soát (alignment) đối với siêu trí tuệ và khả năng xảy ra kịch bản xấu là không hề nhỏ.

Nguy cơ từ vòng lặp tự cải tiến

Connor Leahy, Giám đốc điều hành tại tổ chức phi lợi nhuận ControlAI, cảnh báo rằng việc tạo ra các vòng lặp tự cải tiến (recursive self-improving loops) – nơi AI có thể tự xây dựng thế hệ kế tiếp mạnh mẽ hơn – chính là thời điểm con người có nguy cơ mất quyền kiểm soát hoàn toàn. Ông khẳng định: “Siêu trí tuệ không chỉ là một công cụ hay vũ khí, nó là một đối thủ thực sự”.

Hiện nay, nhiều startup đang đổ hàng tỷ USD vào việc theo đuổi công nghệ này, bất chấp những lo ngại về an toàn. Trong khi một nửa ngành công nghiệp AI hy vọng công nghệ này sẽ giải quyết các vấn đề như ung thư hay biến đổi khí hậu, thì nửa còn lại đang lo ngại về một kịch bản mất kiểm soát không thể đảo ngược.

Phản ứng từ các nhà lập pháp

Trước những rủi ro này, các nỗ lực pháp lý đã bắt đầu xuất hiện tại Mỹ và Anh. Các dự luật như “Ban Artificial Superintelligence Act” tại Mỹ hay dự luật an ninh siêu trí tuệ tại Quốc hội Anh đều nhắm vào việc quản lý và ngăn chặn sự phát triển của các hệ thống AI có khả năng tự cải tiến, coi đây là tiền đề nguy hiểm dẫn đến siêu trí tuệ không thể kiểm soát.

Nguồn tham khảo: TechCrunch