OpenAI chặn loạt tài khoản Nga sử dụng ChatGPT để thực hiện chiến dịch gây ảnh hưởng

OpenAI mới đây đã thông báo về việc vô hiệu hóa một nhóm tài khoản ChatGPT có liên quan đến các hoạt động gây ảnh hưởng từ Nga. Theo báo cáo, những đối tượng này đã sử dụng VPN để bypass các hạn chế truy cập, từ đó tận dụng công cụ AI để tạo ra các nội dung, bài đăng và bình luận nhằm thao túng dư luận trên nhiều nền tảng như X, Facebook, LinkedIn, Telegram và Substack.

Mục tiêu chính của chiến dịch này là quảng bá cho “International Burke Institute” (IBI) – một tổ chức tự xưng là cộng đồng chuyên gia có trụ sở tại Israel. OpenAI cho biết, những gì bắt đầu từ việc điều tra các bài đăng mạng xã hội do AI tạo ra đã dẫn đến việc phát hiện một chiến dịch quy mô hơn, bao gồm một website chứa các tài liệu học thuật bị sao chép, gán ghép sai lệch và một “chỉ số chủ quyền” (sovereignty index) nhằm xây dựng hình ảnh tích cực cho Nga.

Dù chiến dịch này được đánh giá là có phạm vi tiếp cận tương đối nhỏ, với mỗi kênh Telegram chỉ thu hút khoảng 10.000 – 20.000 người theo dõi, nhưng phương thức vận hành lại rất tinh vi. Các đối tượng đã yêu cầu ChatGPT che giấu mọi dấu vết ngôn ngữ có thể làm lộ nguồn gốc Nga của chúng. Đáng chú ý, website của IBI (đăng ký từ tháng 2/2025) dù không có bằng chứng trực tiếp sử dụng ChatGPT để viết bài, nhưng nhiều nội dung trên đó được cho là dịch từ các văn bản học thuật hoặc được soạn thảo bởi người nói tiếng Slavic rồi dịch sang tiếng Anh.

Điểm khác biệt của chiến dịch này so với các hoạt động gây ảnh hưởng trước đây là việc tạo ra “Chỉ số chủ quyền” (còn gọi là Chỉ số Burke). Chỉ số này đánh giá các quốc gia dựa trên 7 tiêu chí gồm chính trị, kinh tế, công nghệ, thông tin, văn hóa, nhận thức và quân sự. Trong bảng xếp hạng này, Nga được mô tả là một cường quốc có mức độ tự chủ cao về quân sự và kỹ thuật số.

OpenAI nhấn mạnh rằng tầm quan trọng của vụ việc không nằm ở số lượng khán giả tiếp cận được, mà ở cơ sở hạ tầng mà các đối tượng này đã xây dựng. Việc sử dụng AI để tạo ra các bài đăng quảng bá cho một tổ chức có vẻ ngoài uy tín, kèm theo các chuyên gia giả mạo và các chỉ số rủi ro độc quyền, cho thấy cách các tác nhân xấu có thể lợi dụng AI để tạo dựng uy tín giả tạo và che giấu nguồn gốc của các thông tin sai lệch.

“Điều này minh họa cách các tác nhân gây ảnh hưởng sử dụng AI như một công cụ hỗ trợ trong nỗ lực rộng lớn hơn nhằm tạo ra thẩm quyền, làm mờ nguồn gốc của các câu chuyện được ưu tiên và thiết lập các tài sản có thể mở rộng theo thời gian,” phía OpenAI cho biết thêm.

Nguồn tham khảo: The Hacker News