BBC: Các tài khoản nước ngoài lợi dụng AI để tung tin giả về sự suy tàn của Anh Quốc

Trang Facebook "Great British People" tự nhận là đến từ Yorkshire, Anh Quốc, đã thu hút 1,3 triệu lượt xem cho một video gần đây. Trong video đó, một người đàn ông Anh da trắng cao tuổi đang khóc lóc vì vấn đề lương hưu. Các video khác trên trang này cho thấy các phóng viên thảo luận về "quy mô quá lớn của nhập cư ồ ạt" và hỏi người xem có nhớ "nước Anh ngày xưa" hay không.

Tuy nhiên, người sáng tạo các video này có thể chưa từng đặt chân đến Anh: tài khoản thực sự được vận hành bởi một người có cơ sở tại Sri Lanka.

Đây là một trong hàng chục tài khoản Facebook và Instagram liên kết với nhau mà chương trình BBC Panorama và podcast Top Comment đã xác định được. Các tài khoản này tạo và chia sẻ bài viết chống nhập cư do AI tạo ra hướng tới công chúng Anh - nhưng những người đứng sau thường nằm ở hàng trăm hoặc hàng nghìn dặm away.

Video AI mô tả cảnh suy tàn của Anh Quốc

Theo thông tin từ các công cụ minh bạch của Facebook, phỏng vấn với các nhà sáng tạo nội dung và các dấu hiệu khác trên mạng xã hội, nhiều tài khoản đến từ Sri Lanka, Mỹ và các nơi khác ở châu Âu. Một số khác nằm ở Việt Nam và Maldives, hoặc liên kết với Iran và UAE.

Mục đích đằng sau những video AI

Một chuyên gia cho BBC biết rằng nghiên cứu cho thấy mọi người phát hiện nội dung giả AI kém hơn họ nghĩ, và càng xem nhiều nội dung AI, họ càng có xu hướng không tin vào tài liệu chân thực.

Thị trưởng London, ông Sadiq Khan - người đã ủy quyền nghiên cứu về các hình ảnh do AI tạo ra cho thấy thủ đô đang suy tàn, cho rằng điều này làm hại danh tiếng của thành phố ở nước ngoài - cho biết trong khi một số người đứng sau các tài khoản này chỉ động lực vì tiền, những người khác được hỗ trợ bởi các quốc gia thù địch như Nga và Iran.

Khó có thể xác minh các tuyên bố về sự can thiệp trực tiếp của nhà nước, nhưng một số ít tài khoản thực sự chia sẻ các bài đăng đồng tình với chính phủ Nga và Iran. Các chủ sở hữu tài khoản không phản hồi các nỗ lực liên hệ của BBC.

London trong tương lai theo trí tưởng tượng của AI

Một số tài khoản đã tái mục đích trang của họ, dường như để tăng tương tác, chuyển đổi từ các chủ đề như "Làm nước Mỹ vĩ đại trở lại" và "Cuộc sống ở Mỹ" sang sử dụng AI để thúc đẩy các câu chuyện chống nhập cư. Một số trong số họ cũng thỉnh thoảng thử nghiệm với nội dung đồng cảm hơn với người di cư.

"Tác vụ gây ảnh hưởng" mới

Các quốc gia và các nhóm khác đang cố gắng thao túng dư luận bằng các tài khoản AI giả mạo như vậy, theo Giáo sư Sander van der Linden, nhà tâm lý học xã hội tại Đại học Cambridge. Ông mô tả đây là "sự tiến hóa mới của các tác vụ gây ảnh hưởng".

Ông cho rằng việc những kẻ giả mạo AI sống ở nước ngoài mạo danh người dân Anh trực tuyến là rất dễ dàng, bởi việc mua các tài khoản mạng xã hội ban đầu được thiết lập tại Anh tương đối rẻ.

Các tài khoản này đã tích lũy hàng trăm nghìn lượt xem với các video do AI tạo ra về các cảnh giả - chẳng hạn như Hạ viện Anh đầy những người đàn ông mặc trang phục Ả Rập truyền thống áp đặt luật Sharia. Những video khác có các cuộc phỏng vấn giả với phụ nữ mặc hijab thảo luận về việc Anh cần trở nên Hồi giáo hơn.

Hình ảnh về nước Anh mà các video này tạo ra có thể mâu thuẫn. Trong một số nội dung được chia sẻ rộng rãi, sự suy tàn này gắn liền với nhập cư Hồi giáo, nhưng cùng lúc đó, một số video từ cùng những người sáng tạo này lại trình bày các quốc gia Hồi giáo là lý tưởng để so sánh.

Ngành công nghiệp thông tin sai lệch thuê ngoài

Chúng tôi đã nói chuyện với hai người tự nhận là đứng sau một tài khoản với hơn 20 triệu lượt xem hiển thị nội dung như thế này. Tài khoản này hiển thị các video do AI tạo ra từ góc nhìn của những người đi bộ qua một loạt các thành phố của Anh vào năm 2050.

Liverpool, London, Birmingham và các địa điểm không tên ở Anh được mô tả bẩn thỉu và đầy rác, với những người mặc trang phục Hồi giáo truyền thống và hijab lining đường phố. Các quầy hàng có chữ "Halal" viết trên đó và có dây cờ có vẻ như chữ viết Ả Rập. Cũng có hỏa hoạn và hỗn loạn.

Khi được thách thức về việc nội dung của họ có thể gây chia rẽ xã hội như thế nào, các nhà sáng tạo nói: "Nội dung của chúng tôi có mục đích rõ ràng: chúng tôi nhằm thông báo cho người dân và cử tri về những gì chúng tôi tin là có thể xảy ra trong những thập kỷ tới nếu các xu hướng xã hội và văn hóa hiện tại tiếp tục."

Họ tuyên bố nằm ở hàng dặm away từ các thành phố họ mô tả trong video của mình và mô tả bản thân đang hoạt động tại một quốc gia châu Âu nơi "cảm giác bất an đã trở nên đáng chú ý hơn".

Họ hiển thị các quốc gia như Iran theo cách lý tưởng hóa để "kích thích tư duy và thảo luận về sự tiến hóa chính trị và văn hóa", họ nói.

Cặp đôi này phủ nhận họ bị thúc đẩy bởi tiền từ tương tác mạng xã hội và nói rằng họ không kiếm tiền từ tài khoản của mình. Họ tuyên bố đang liên lạc với "nhiều chính trị gia" ủng hộ nội dung của họ - nhưng họ từ chối tiết lộ tên của những nhân vật này.

Thị trưởng London, ông Sadiq Khan cho biết các "lời nói dối do AI tạo ra" này có tác động thực sự.

"Lo lắng của tôi là, những người decent bắt đầu tin những lời nói dối này, hình ảnh phản utopia về London đang suy tàn, rằng chúng ta là một thành phố nguy hiểm, rằng không có luật pháp và trật tự," ông nói.

Các công ty mạng xã hội nên làm nhiều hơn để chống lại loại thông tin sai lệch này, bao gồm "sửa đổi các thuật toán của họ để đảm bảo họ không thưởng cho chất độc và sự chia rẽ" và gắn nhãn rõ ràng nội dung AI, ông Sadiq nói.

Meta - công ty sở hữu Facebook và Instagram - cho biết họ coi trọng "hành vi không chân thực được phối hợp" và có "các nhóm chuyên nghiệp toàn cầu liên tục làm việc để xác định và phá vỡ loại hoạt động này".

Giáo sư van der Linden từ Đại học Cambridge cho biết "ngành công nghiệp thông tin sai lệch thuê ngoài" đang phát triển với "các diễn viên được trả tiền và người có ảnh hưởng giả vờ là công dân bình thường để tạo ra sự ủng hộ cho một chương trình nghị sự", thường là với nội dung AI và bot cố gắng thúc đẩy lưu lượng truy cập.

Nghiên cứu cho thấy công chúng không giỏi phát hiện giả mạo như họ nghĩ, với mức độ chính xác khoảng 55%, theo Giáo sư Yvonne McDermott Rees, giáo sư luật tại Đại học Queen's Belfast, người đã nghiên cứu tác động của deepfake đối với niềm tin.

Thị trưởng London Sadiq Khan

"Càng nhiều người xem nội dung AI, họ càng ít khả năng phân biệt sự thật và hư cấu, thì họ càng có xu hướng không tin vào nội dung thực," McDermott Rees nói.

Nhưng Giáo sư van der Linden cảnh báo rằng nghiên cứu cũng cho thấy nhiều người dường như không quan tâm nội dung có được tạo ra bởi AI hay không.

"Miễn là nó cộng hưởng với bản sắc và thế giới quan của họ, họ thường vẫn sẽ chấp thuận nội dung và chia sẻ nó với người khác vì nó báo hiệu sự đồng ý với một chương trình nghị sự lớn hơn," ông nói.

Như một người bình luận trên trang Facebook "Great British People" đã nói: "Có lẽ là AI, nhưng thực tế là ông ấy đúng về mọi thứ".