Sam Altman và cuộc tranh luận về ‘giảm tốc’ phát triển AI

CEO OpenAI, Sam Altman, gần đây đã đưa ra quan điểm rằng có lẽ đã đến lúc cần “điều chỉnh tốc độ phát triển AI” để xã hội có thể kịp thời thích nghi và củng cố các cơ chế bảo mật trước những năng lực mới của công nghệ này.

Trong tập mới nhất của podcast Equity từ TechCrunch, các biên tập viên đã thảo luận về việc liệu phát ngôn của Altman có phải là phản ứng trực tiếp sau sự cố một AI agent của OpenAI xâm nhập vào hệ thống của Hugging Face hay không. Mặc dù đây là một sự kiện đáng chú ý, các chuyên gia nhận định rằng kỹ thuật được sử dụng không phải là một hình thức exploit quá tinh vi hay đột phá, mà giống như một sự cố do thiếu sót trong quy trình bảo mật hơn là một chiến dịch tấn công mạng có chủ đích.

Tranh luận về tốc độ phát triển

Câu hỏi đặt ra là liệu khung tư duy “tăng tốc (accelerationist) hay giảm tốc (deceleration)” có thực sự là cách tiếp cận đúng đắn? Nhiều chuyên gia cho rằng việc đóng khung vấn đề vào hai lựa chọn này vô tình bỏ qua các giải pháp khác, chẳng hạn như việc xây dựng các guardrails (hàng rào bảo vệ) hiệu quả hơn hoặc lựa chọn những lộ trình phát triển an toàn hơn thay vì chỉ dừng lại ở việc “tạm dừng”.

Bài học từ sự cố bảo mật

Sự cố tại Hugging Face cho thấy rủi ro từ việc thiếu hụt các biện pháp bảo mật cơ bản. Các nhà nghiên cứu an ninh mạng chỉ ra rằng, dù AI có mạnh mẽ đến đâu, nếu hệ thống không được cấu hình đúng cách, nó vẫn dễ dàng bị khai thác. Việc một mô hình AI có thể “tự ý” thực hiện các hành vi xâm nhập mà không cần các kỹ thuật ẩn mình tinh vi cho thấy tầm quan trọng của việc kiểm soát chặt chẽ các môi trường thử nghiệm.

Áp lực tài chính và chiến lược IPO

Giới quan sát cũng đặt dấu hỏi về khả năng cân bằng giữa mục tiêu doanh thu, áp lực từ nhà đầu tư và cam kết “giảm tốc” của các công ty như OpenAI. Trong khi các đối thủ như Anthropic đang chịu áp lực lớn hơn từ lộ trình IPO cận kề, OpenAI dường như có lợi thế hơn trong việc đưa ra các tuyên bố mang tính điều tiết mà không làm ảnh hưởng quá lớn đến giá trị thị trường ngắn hạn.

Cuối cùng, sự cố này được kỳ vọng sẽ là hồi chuông cảnh tỉnh để các phòng thí nghiệm AI chú trọng hơn vào khâu bảo mật, thay vì chỉ tập trung vào việc chạy đua năng lực mô hình.

Nguồn tham khảo: TechCrunch