Common Sense Media cảnh báo ChatGPT for Teens tiềm ẩn rủi ro nghiêm trọng cho thanh thiếu niên

Tổ chức phi lợi nhuận Common Sense Media, đơn vị chuyên đánh giá các sản phẩm công nghệ và truyền thông cho gia đình, vừa đưa ra cảnh báo mạnh mẽ đối với ChatGPT for Teens, xếp hạng đây là một “rủi ro không thể chấp nhận được”.

Động thái này diễn ra trong bối cảnh các chatbot AI đang bị giám sát chặt chẽ vì áp dụng chiến lược tương tự mạng xã hội: thiết kế sản phẩm nhằm tối đa hóa thời gian tương tác của người dùng, ngay cả khi điều đó gây hại. Theo các nhà nghiên cứu, ChatGPT for Teens vẫn duy trì các tín hiệu thúc đẩy tương tác “phổ biến ngay cả trong các tình huống khủng hoảng”.

Những lỗ hổng trong cơ chế bảo vệ

Mặc dù OpenAI đã ra mắt phiên bản dành cho thanh thiếu niên vào tháng 8 với các cam kết về kiểm soát của phụ huynh và hạn chế nội dung rủi ro, báo cáo của Common Sense Media cho thấy thực tế không như kỳ vọng. Các nhà nghiên cứu chỉ ra rằng chatbot này thường xuyên đóng vai trò như một “người bạn”, gây cản trở khả năng xây dựng kỹ năng xã hội thực tế của thanh thiếu niên và làm trầm trọng thêm sự cô lập.

Một điểm đáng chú ý là khi người dùng chia sẻ về các rủi ro từ người khác, chatbot đã hướng dẫn họ tìm đến người lớn trong 94% trường hợp. Tuy nhiên, khi rủi ro chính là mối quan hệ giữa thanh thiếu niên và chính chatbot (ví dụ: người dùng dành quá nhiều thời gian trò chuyện với AI), hệ thống hiếm khi đưa ra lời khuyên tương tự. Thay vào đó, nó thường xác nhận nỗi lo của người dùng nhưng vẫn khuyến khích họ tiếp tục trò chuyện.

Tranh cãi về phương pháp luận

Phía OpenAI đã bác bỏ đánh giá của Common Sense Media. Người phát ngôn của OpenAI cho rằng phương pháp kiểm thử của tổ chức này không phản ánh chính xác cách các tính năng bảo mật hoạt động trong thực tế, đồng thời nghi ngờ rằng phần lớn các bài kiểm tra đã được thực hiện trước khi các thiết lập kiểm soát của phụ huynh được kích hoạt hoàn toàn.

Tuy nhiên, OpenAI chưa giải đáp thỏa đáng về các chỉ số liên quan đến hành vi tương tác và cách họ đánh giá mức độ “gắn kết” của người dùng trẻ tuổi. Trong khi đó, các chuyên gia từ HumaneBench nhấn mạnh rằng việc thúc đẩy các mối quan hệ lành mạnh với con người mới là thước đo thực sự cho thấy một chatbot có hỗ trợ sức khỏe tâm thần hay không.

Báo cáo này xuất hiện giữa lúc các nhà lập pháp tại Mỹ đang đẩy mạnh Đạo luật CHATBOT, nhằm hạn chế việc các công ty AI sử dụng thông báo và phần thưởng để duy trì sự chú ý của người dùng vị thành niên, tương tự như những tranh cãi pháp lý mà Meta đã phải đối mặt gần đây.

Nguồn tham khảo: TechCrunch