OpenAI triển khai bộ công cụ mới nhằm ngăn chặn nội dung lạm dụng tình dục trẻ em (CSAM)
OpenAI vừa giới thiệu hệ thống phân loại hình ảnh mới và các cơ chế cảnh báo trên ChatGPT nhằm phát hiện và ngăn chặn nội dung lạm dụng tình dục trẻ em (CSAM), đồng thời hỗ trợ các cơ quan thực thi...
- Giọng nữ Bắc
Trước những lo ngại ngày càng tăng về an toàn AI, OpenAI vừa công bố loạt công cụ mới nhằm chống lại nội dung lạm dụng tình dục trẻ em (CSAM). Các tính năng này bao gồm hệ thống phân loại hình ảnh mới, cơ chế cảnh báo và chặn tạm thời trên ChatGPT, cùng các hướng dẫn dành cho nhà phát triển và công cụ hỗ trợ cơ quan thực thi pháp luật.
Table Of Content
Hệ thống phân loại hình ảnh AI
OpenAI đã phát triển một bộ phân loại hình ảnh có khả năng phát hiện CSAM, bao gồm cả những hình ảnh do AI tạo ra. Công cụ này hiện được cung cấp miễn phí cho các công ty đối tác thông qua API. Bằng cách phân tích các dấu hiệu hình ảnh, hệ thống sẽ đưa ra điểm số giúp người kiểm duyệt xác định và xử lý nội dung độc hại hiệu quả hơn. Kết quả thử nghiệm cho thấy công cụ này giúp giảm 48% số lượng hình ảnh cần kiểm duyệt thủ công nhưng vẫn duy trì độ chính xác cao trong việc phát hiện các nội dung vi phạm.
Cơ chế cảnh báo trên ChatGPT
Người dùng ChatGPT giờ đây sẽ đối mặt với các màn hình cảnh báo nếu cố gắng truy cập hoặc tạo ra nội dung tình dục hóa trẻ em. Ngoài việc hiển thị thông báo, hệ thống sẽ hướng dẫn người dùng đến các dịch vụ hỗ trợ tâm lý và áp dụng hình thức khóa tài khoản tạm thời trong 24 giờ. Đối với các trường hợp tái phạm, OpenAI cho biết tài khoản có thể bị xóa vĩnh viễn.
Hỗ trợ cộng đồng và thực thi pháp luật
OpenAI đã hợp tác với Trung tâm Quốc gia về Trẻ em Mất tích và Bị bóc lột (NCMEC) cùng nhiều tổ chức nghiên cứu khác để xây dựng các hướng dẫn an toàn. Bên cạnh đó, hãng cũng cung cấp cho các cơ quan thực thi pháp luật các tính năng AI chuyên dụng, bao gồm plugin điều tra, công cụ phân tích dữ liệu phức tạp và tài liệu hướng dẫn đào tạo chuyên sâu.
Động thái này diễn ra trong bối cảnh OpenAI đang đối mặt với nhiều áp lực pháp lý và chỉ trích về rủi ro an toàn đối với trẻ vị thành niên. Trước đó, công ty đã thực hiện nhiều thay đổi như cập nhật quy tắc nội dung, tinh chỉnh mô hình để ngăn chặn tạo nội dung có hại và ra mắt phiên bản ChatGPT dành riêng cho thanh thiếu niên.
Nguồn tham khảo: TechCrunch



Chưa có bình luận nào! Hãy là người đầu tiên.