OpenAI vừa xác định và chặn một mạng lưới tài khoản có nguồn gốc từ Nga sử dụng ChatGPT để tạo ra các bài đăng và bình luận trên mạng xã hội, nhằm quảng bá cho một 'think tank' Israel giả mạo chỉ trích phương Tây. Dù chiến dịch này đạt hiệu quả thấp, nó cho thấy AI đang trở thành công cụ hỗ trợ đắc lực cho các hoạt động ảnh hưởng, đồng thời đặt ra câu hỏi về việc lưu trữ vĩnh viễn dữ liệu người dùng.

OpenAI chặn tài khoản Nga lạm dụng ChatGPT để sản xuất tin giả và thao túng dư luận

OpenAI vừa lên tiếng xác nhận đã phát hiện và chặn một cụm tài khoản có nguồn gốc từ Nga sử dụng ChatGPT để sản xuất hàng loạt bài đăng và bình luận trên mạng xã hội. Mục đích của chiến dịch này là quảng bá cho một viện nghiên cứu (think tank) giả mạo có trụ sở tại Israel, thường xuyên chỉ trích phương Tây và thể hiện sự ủng hộ đối với Nga.

Theo báo cáo được OpenAI công bố hôm thứ Ba, mặc dù chiến dịch này không đạt được hiệu quả lan truyền lớn, nhưng cách thức xây dựng tinh vi của nó đã phơi bày một xu hướng đáng lo ngại: AI không chỉ tạo ra rác kỹ thuật số, mà còn có thể được vũ khí hóa trong các hoạt động ảnh hưởng chính trị.

Chiến dịch tinh vi nhưng kém hiệu quả

OpenAI cho biết các tài khoản này chủ yếu tạo ra nội dung bằng tiếng Anh trên nhiều nền tảng khác nhau như Substack, Telegram, X, Facebook và LinkedIn. Điều thú vị là các lời nhắc (prompt) đều được viết bằng tiếng Nga và kèm theo yêu cầu ChatGPT phải che giấu mọi dấu vết ngôn ngữ gốc.

Tuy nhiên, nỗ lực này đã thất bại thảm hại. OpenAI đã chỉ ra nhiều lỗi dịch thuật lộ liễu, ví dụ như việc sử dụng cụm từ "Liên minh Svetofor" (ám chỉ đèn giao thông) thay vì "Liên minh đèn giao thông" (Ampelkoalition) khi nói về liên minh cầm quyền của Đức — một cách gọi chỉ quen thuộc với người nói tiếng Slav.

"Mặc dù chiến dịch có vẻ tiếp cận được lượng khán giả tương đối nhỏ, nhưng cấu trúc phức tạp của nó khiến nó khác biệt với các hoạt động ảnh hưởng khác liên quan đến Nga mà chúng tôi đã phá vỡ trước đây", OpenAI nhấn mạnh.

"Think tank" ma và "chỉ số chủ quyền" bịa đặt

Trọng tâm của chiến dịch này là quảng bá cho Viện Burke Quốc tế (International Burke Institute - IBI), một tổ chức tự nhận có trụ sở tại Israel nhưng thực chất hoàn toàn là hư cấu. OpenAI phát hiện ra rằng trong số 36 bài viết được trích dẫn từ các chuyên gia của IBI, có tới 34 bài bị sao chép từ nơi khác trên internet.

Một số bài viết đã cũ từ nhiều năm trước, số khác bị gán sai tác giả. Thậm chí, có một "chuyên gia chính sách di cư" xuất hiện trong các tài liệu của IBI, nhưng thực tế chỉ là một giáo sư khoa học thực phẩm đến từ Úc.

IBI gây chú ý nhất với "chỉ số chủ quyền" tự xưng, một bảng xếp hạng được tính toán bằng công thức nội bộ mơ hồ, luôn chỉ trích mạnh mẽ các quốc gia phương Tây đang có mâu thuẫn với Nga về vấn đề Ukraine. Ngôn ngữ sử dụng trong các báo cáo này thường mang tính công kích, không khách quan.

Thông điệp từ OpenAI: AI vừa là vấn đề, vừa là giải pháp

Một điểm đáng chú ý khác là khả năng truy vết của OpenAI. Vì nắm giữ toàn bộ lịch sử hội thoại giữa AI và người dùng, công ty có thể dễ dàng lần ra nguồn gốc của chiến dịch này.

OpenAI khẳng định tác động của chiến dịch là rất hạn chế: các bài đăng có lượt xem thấp, tài khoản của IBI có ít người theo dõi. Tuy nhiên, giá trị của phát hiện này nằm ở việc phơi bày cơ sở hạ tầng mà các tác nhân ảnh hưởng đang xây dựng.

"Các tác nhân ảnh hưởng có thể sử dụng AI như một công cụ hỗ trợ trong nỗ lực rộng lớn hơn nhằm tạo ra quyền lực giả tạo, che giấu nguồn gốc của các câu chuyện có lợi và thiết lập các tài sản có thể mở rộng quy mô theo thời gian", OpenAI cảnh báo.

OpenAI cũng khéo léo biến câu chuyện này thành minh chứng cho mặt tốt của AI: việc sử dụng AI trong các hoạt động thông tin sai lệch có thể dẫn đến việc vạch trần toàn bộ chiến dịch. Tuy nhiên, thông điệp này cũng mang một hàm ý đáng suy ngẫm — để có được khả năng truy vết đó, mọi cuộc trò chuyện của người dùng với chatbot đều được ghi lại vĩnh viễn trên máy chủ của các công ty công nghệ.

META: {"title_vi": "OpenAI chặn tài khoản Nga lạm dụng ChatGPT để sản xuất tin giả và thao túng dư luận", "summary_vi": "OpenAI vừa xác định và chặn một mạng lưới tài khoản có nguồn gốc từ Nga sử dụng ChatGPT để tạo ra các bài đăng và bình luận trên mạng xã hội, nhằm quảng bá cho một 'think tank' Israel giả mạo chỉ trích phương Tây. Dù chiến dịch này đạt hiệu quả thấp, nó cho thấy AI đang trở thành công cụ hỗ trợ đắc lực cho các hoạt động ảnh hưởng, đồng thời đặt ra câu hỏi về việc lưu trữ vĩnh viễn dữ liệu người dùng."} CONTENT: