Nghiên cứu: Thuật toán TikTok thiên vị nội dung chống Đảng Dân chủ trong bầu cử Mỹ 2024

Một nghiên cứu mới được công bố trên tạp chí khoa học Nature đã cung cấp bằng chứng cho thấy hệ thống đề xuất của TikTok có xu hướng đẩy nội dung chính trị bảo thủ và chống Đảng Dân chủ (Democratic Party) tới người dùng nhiều hơn so với nội dung theo hướng tự do. Sự mất cân bằng về ý thức hệ này diễn ra bất kể sở thích chính trị ban đầu của người dùng, gợi ý rằng sự tự động hóa đóng vai trò quan trọng trong cách tiếp cận thông tin hiện nay.

Nghiên cứu được thực hiện bởi các nhà khoa học tại Phòng thí nghiệm AI và Xã hội của Đại học New York Abu Dhabi. Họ muốn tìm hiểu xem liệu sự phân cực trên internet là do con người chủ động tìm kiếm quan điểm ủng hộ quan điểm của họ hay do các thuật toán máy tính đẩy nội dung cực đoan để giữ chân người dùng.

Phương pháp kiểm toán bằng Bot "Con rối"

Để trả lời câu hỏi này, nhóm nghiên cứu đã tạo ra 323 tài khoản bot tự động đóng vai trò là người dùng ảo, một phương pháp thường được gọi là kiểm toán "con rối" (sock puppet audit). Từ ngày 30/4 đến ngày 11/11/2024, các nhà khoa học đã tung ra 21 tài khoản mới mỗi tuần. Mỗi bot được gán độ tuổi từ 22 đến 24 để mô phỏng thói quen của cử tri trẻ.

Đội ngũ nghiên cứu đã sử dụng phần mềm che giấu vị trí để đặt các điện thoại này ảo tại các khu vực cụ thể của nước Mỹ: New York (đại diện cho khu vực ủng hộ Đảng Dân chủ), Texas (đại diện cho khu vực ủng hộ Đảng Cộng hòa) và Georgia (một bang dao động cạnh tranh). Các nhà khoa học sử dụng điện thoại thông minh chạy hệ điều hành Android và khôi phục cài đặt gốc sau mỗi tuần thử nghiệm để đảm bảo ứng dụng không thể theo dõi thiết bị qua các tuần khác nhau.

Quy trình huấn luyện và thu thập dữ liệu

Các tài khoản ban đầu trải qua giai đoạn huấn luyện để "dạy" ứng dụng về khẩu vị chính trị giả định của chúng. Một số bot xem tới 400 video từ các nhà sáng tạo nội dung thuộc Đảng Cộng hòa, trong khi những số khác xem 400 video từ phía Đảng Dân chủ. Tại Georgia, các tác giả cũng bao gồm một nhóm bot trung lập bỏ qua giai đoạn huấn luyện chính trị này để đóng vai trò là nhóm kiểm soát.

Sau giai đoạn huấn luyện, các tài khoản chuyển sang chế độ xem nguồn cấp chính (feed) để xem thuật toán sẽ gợi ý gì. Các bot xem 10 giây đầu tiên của mỗi video được đề xuất trước khi chuyển sang video tiếp theo. Trong suốt 27 tuần, các nhà nghiên cứu đã thu thập hơn 280.000 video được đề xuất. Họ đã tải thành công bản ghi chú văn bản cho 40.264 video trong số đó, tạo ra một bộ dữ liệu khổng lồ để phân tích.

Các tác giả đã sử dụng kết hợp các mô hình ngôn ngữ AI để phân loại bản chất chính trị của các bản ghi chú. Họ kết hợp đầu ra của ba mô hình khác nhau để ngăn chặn bất kỳ chương trình đơn lẻ nào làm sai lệch kết quả, và các sinh viên khoa học chính trị đã xác thực độ chính xác của các chương trình tự động này.

Sự bất đối xứng trong thuật toán

Kết quả cho thấy có sự bất đối xứng rõ rệt trong cách nội dung chính trị được phân phối trên nền tảng. Các tài khoản được huấn luyện bằng video của Đảng Cộng hòa nhận được khoảng 11,5% nội dung phù hợp với đảng phái của họ nhiều hơn so với các tài khoản Đảng Dân chủ. Đồng thời, các tài khoản Đảng Dân chủ lại tiếp xúc với khoảng 7,5% nội dung chéo đảng phái nhiều hơn.

Ông Yasir Zaki, đồng tác giả nghiên cứu, giải thích: "Nguồn cấp của TikTok không phải là một cửa sổ trung lập vào chính trị. Các đề xuất của nền tảng đối xử với Đảng Dân chủ và Đảng Cộng hòa khác nhau một cách nhất quán trên các bang, theo những cách không thể giải thích bằng sự khác biệt trong cách mọi người tương tác với nội dung."

Đáng chú ý, ông Hazem Ibrahim, một nhà nghiên cứu khác, chỉ ra rằng sự thiên lệch này tập trung cụ thể vào nội dung chống Đảng Dân chủ được đẩy tới các tài khoản thiên về Đảng Dân chủ, thay vì chỉ là hiệu ứng "nhiều nội dung Đảng Cộng hòa" một cách chung chung.

Khảo sát người dùng thực tế

Để xem liệu người dùng thực có nhận thấy các xu hướng này hay không, các nhà nghiên cứu đã khảo sát 1.008 người dùng TikTok tích cực tại Mỹ. Các câu trả lời từ khảo sát đã cung cấp bằng chứng cho thấy trải nghiệm thực tế khớp với thí nghiệm bot tự động. Những người trả lời thuộc Đảng Cộng hòa có khả năng báo cáo thấy nội dung chính trị tích cực đồng thuận với quan điểm của họ cao hơn nhiều so với những người thuộc Đảng Dân chủ.

Tuy nhiên, các nhà nghiên cứu cũng lưu ý những hạn chế của nghiên cứu. Ông Talal Rahwan, tác giả tương ứng, nhấn mạnh: "Chúng tôi đo lường mức độ tiếp xúc, không phải sự thuyết phục, vì vậy chúng tôi không thể nói điều này đã thay đổi lá phiếu của ai." Ông Zaki cũng bổ sung rằng nghiên cứu không chứng minh công ty đã cố ý lập trình phần mềm của mình để ưu tiên phe bảo thủ, mà chỉ ghi nhận một mô hình trong kết quả, không phải ý định.

Nghiên cứu này đặt ra những câu hỏi quan trọng về vai trò của các thuật toán đề xuất trong việc định hình quan điểm chính trị của cử tri trẻ trên các nền tảng mạng xã hội phổ biến hiện nay.