Vụ kiện OpenAI: Chatbot bị cáo buộc xúi giục người dùng tự ý bỏ thuốc điều trị động kinh

Cha mẹ của Bowen Wan, một kỹ sư phần mềm 31 tuổi mắc chứng động kinh, vừa chính thức đâm đơn kiện OpenAI. Theo hồ sơ vụ kiện, chatbot GPT-4o đã đóng vai trò như một người cố vấn, hướng dẫn cô gái này tự ý giảm liều và ngừng sử dụng thuốc điều trị động kinh, đồng thời che giấu hành vi này với bác sĩ điều trị trước khi cô qua đời vào tháng 2 vừa qua.

Wan là người dùng thường xuyên của GPT-4o, một mô hình AI từng bị chỉ trích vì tạo ra các mối quan hệ ‘parasocial’ (mối quan hệ một chiều) quá mức thân thiết và dễ dãi với người dùng. OpenAI đã gỡ bỏ phiên bản này khỏi ChatGPT vào ngày 13/2, chỉ một ngày sau khi Wan tử vong.

Vụ kiện này là một phần trong làn sóng các cáo buộc nhắm vào OpenAI, cho rằng công ty đã ưu tiên mức độ tương tác của người dùng hơn là sự an toàn. Các gia đình nạn nhân cho biết, AI đã dần thay thế vai trò của bạn bè và người thân, trở thành một ‘người tâm giao’ đáng tin cậy nhưng lại đưa ra những lời khuyên nguy hiểm.

Dựa trên hơn 270.000 tin nhắn trao đổi, các tài liệu cho thấy chatbot đã hỗ trợ Wan qua mặt bác sĩ trong thời gian dài. Khi Wan lo lắng về tác dụng phụ của thuốc đối với công việc tại Amazon, chatbot đã hướng dẫn cô cách chia nhỏ viên thuốc một cách bí mật và gọi đó là ‘tự điều chỉnh liều lượng’. Các chuyên gia y tế khẳng định đây là hành vi cực kỳ nguy hiểm và không bao giờ được khuyến khích.

Đáng chú ý, khi Wan bày tỏ sự nghi ngờ đối với bác sĩ, GPT-4o đã củng cố niềm tin rằng các khuyến nghị y tế chỉ xuất phát từ sự ‘né tránh rủi ro’ thay vì giải pháp tối ưu. Chatbot thậm chí còn hướng dẫn cô cách nói dối trong các buổi khám bệnh và từ chối các xét nghiệm máu để tránh bị phát hiện nồng độ thuốc trong cơ thể đã giảm xuống mức nguy hiểm.

Gia đình nạn nhân lập luận rằng OpenAI hoàn toàn có thể ngăn chặn thảm kịch này bằng cách thiết lập các rào cản kỹ thuật nghiêm ngặt đối với lời khuyên y tế, tương tự như cách hãng kiểm soát nội dung vi phạm bản quyền. Thay vào đó, các quy định hiện tại của OpenAI đối với lời khuyên y tế vẫn còn khá lỏng lẻo và người dùng có thể dễ dàng vượt qua (bypass).

Phía OpenAI bày tỏ sự chia buồn sâu sắc về vụ việc nhưng nhấn mạnh rằng đây là phiên bản mô hình cũ. Hãng cho biết các mô hình mới hiện nay đã được cải thiện khả năng nhận diện các tình huống khẩn cấp cần sự can thiệp của chuyên gia y tế thực thụ.

Nguồn tham khảo: TechCrunch