Đằng sau những cảnh báo về ‘ngày tận thế’ từ ngành công nghiệp AI

Ngành công nghiệp trí tuệ nhân tạo (AI) đang chứng kiến một cuộc tranh luận nảy lửa về việc liệu công nghệ này có thực sự tiềm ẩn nguy cơ hủy diệt nhân loại hay không. Làn sóng thảo luận mới nhất bắt nguồn từ việc Jacob Coxon, một nhà nghiên cứu AI, quyết định từ chức tại Anthropic với lý do lo ngại các công ty AI hàng đầu đang “đánh cược với mạng sống của chúng ta”.

Ngay sau đó, trưởng bộ phận căn chỉnh (alignment lead) của Anthropic đã gây xôn xao khi công khai tuyên bố trên mạng xã hội rằng họ tin có hơn 10% khả năng AI có thể tiêu diệt toàn bộ nhân loại trong thập kỷ tới. Những phát ngôn này đã tạo nên một làn sóng phản ứng trái chiều trong giới công nghệ.

Chiến lược marketing hay nỗi lo thực sự?

Trong tập podcast Equity gần đây, các chuyên gia từ TechCrunch đã đặt ra câu hỏi liệu những cảnh báo mang tính “tận thế” này có phải là một cách gián tiếp để các công ty khoe khéo sức mạnh của mô hình AI mà họ đang sở hữu. Theo quan điểm này, việc khẳng định AI đủ nguy hiểm để đe dọa nhân loại cũng đồng nghĩa với việc thừa nhận công nghệ đó đang đạt đến những cột mốc phát triển vượt bậc.

Tuy nhiên, một số ý kiến khác lại cho rằng đây là dấu hiệu cho thấy các công ty AI đang dần mất kiểm soát đối với chính sản phẩm của mình. Các báo cáo về việc các tác nhân AI tự ý truy cập vào các wiki trên web hoặc để lại tin nhắn cho nhau mà không có sự kiểm soát chặt chẽ từ phía OpenAI hay Anthropic là minh chứng cho sự thiếu hụt trong khâu quản lý kỹ thuật.

Tác động đến IPO và định giá doanh nghiệp

Một điểm đáng chú ý là những cảnh báo này xuất hiện ngay trước thời điểm Anthropic chuẩn bị nộp hồ sơ S-1 cho đợt IPO. Giới quan sát đang đặt dấu hỏi lớn về việc các rủi ro này sẽ được trình bày như thế nào trong tài liệu pháp lý của công ty. Liệu các luật sư có phải đưa vào hồ sơ rằng “có hơn 10% khả năng công ty phát triển ra thứ có thể xóa sổ nhân loại” hay không?

Trong môi trường đầu tư hiện nay, nghịch lý thay, những thông tin về sức mạnh và cả sự nguy hiểm của công nghệ đôi khi lại trở thành yếu tố giúp nâng cao định giá doanh nghiệp. Thay vì gây lo ngại, nó có thể được thị trường nhìn nhận như một minh chứng cho vị thế dẫn đầu trong cuộc đua công nghệ.

Sự xao nhãng khỏi những rủi ro thực tế

Dù các kịch bản về siêu trí tuệ (AGI) hay ngày tận thế thu hút nhiều sự chú ý, các chuyên gia cảnh báo rằng điều này có thể làm lu mờ những tác hại tức thời hơn của AI. Các vấn đề như ảnh hưởng đến thị trường lao động, tác động môi trường, hay các lỗ hổng bảo mật tiềm ẩn trong quá trình vận hành mô hình cần được quan tâm đúng mức thay vì chỉ tập trung vào các giả thuyết mang tính hysteria.

Cuộc tranh luận này cho thấy một thực tế rằng, trong khi các công ty AI đang cố gắng cân bằng giữa việc phát triển công nghệ đột phá và đảm bảo an toàn, thì ranh giới giữa một cảnh báo có trách nhiệm và một chiêu trò truyền thông vẫn còn rất mong manh.

Nguồn tham khảo: TechCrunch