Podcaster giả mạo bằng AI: Khi những chuyên gia tình yêu ảo khuấy đảo mạng xã hội

“Cách nhanh nhất để đánh mất một người đàn ông tốt không phải là ngoại tình,” podcaster Sylvia Brown mở đầu bài nói chuyện của mình, “mà là trở thành nguồn gây áp lực lớn nhất của anh ta.”

Kể từ khi tạo tài khoản Instagram vào tháng 1 năm nay, Sylvia đã thu hút 110.000 người theo dõi với tư cách là một chuyên gia về các vấn đề tình dục, giá trị bản thân và hẹn hò. Quay trong một phòng thu vô cùng sáng sủa, Brown hăng hái chia sẻ từng câu nói sáo rỗng này đến câu khác qua chiếc micro phát sóng chuyên nghiệp. Video về việc làm mất người đàn ông tốt của cô ấy đã được hơn 10 triệu người xem, trong đó có cả rapper Dave East, người đã chia sẻ đoạn clip và bình luận bằng năm biểu tượng tâm điểm. Brown thuyết giáo trong một video khác rằng: “Đừng mong sự bình yên từ một người đàn ông đang xây dựng đế chế của mình”, và video này đã thu hút hơn 1,2 triệu lượt xem. Trong một video đăng tháng 3, cô ngắn gọn hơn: “Đàn ông không muốn phụ nữ mạnh mẽ, họ muốn phụ nữ tiện lợi.”

Bất kỳ ai bị hấp dẫn bởi những đoạn ngắn gây tranh cãi của Brown có thể muốn nhấp vào để xem toàn bộ podcast của cô ấy. Nhưng có một vấn đề: Họ không thể làm được điều đó. Podcast của cô ấy không hề tồn tại. Mọi thứ người xem nhìn thấy và nghe thấy — từ giọng nói, tấm biển đèn neon phía sau, cho đến đôi lông mày biểu cảm nhảy múa mỗi khi cô đưa ra ý kiến “nóng” — đều hoàn toàn do AI tạo ra.

Lớp chuyên gia hẹn hò kỹ thuật số mới này không tổ chức các chương trình thực tế trên Spotify hay SiriusXM. Họ tung ra các đoạn clip được biên tập kỹ lưỡng trên Facebook, Instagram, TikTok và YouTube, định vị thương hiệu của mình để tận dụng “điểm ngọt” của thuật toán: nội dung cảm xúc gây ra phản ứng và phù hợp với hầu như bất kỳ ai xem nó. Xu hướng video podcast tự trao quyền trong các mối quan hệ này đang nhanh chóng tìm thấy khán giả của riêng mình, dựa trên sự phổ biến ngày càng tăng của những người có ảnh hưởng trên mạng xã hội do AI tạo ra — một ngành công nghiệp dự kiến sẽ vượt mốc 45 tỷ USD trong bốn năm tới, theo một báo cáo từ Grand View Research.

Mọi video đều tuân theo cùng một logic: Một người ngồi trong phòng thu podcast có ván gỗ chia sẻ lời khuyên về sự tôn trọng hoặc sự phản bội. Mặc dù cực kỳ phổ biến, chúng thường củng cố các tư tưởng giới tính truyền thống. Podcaster AI “Wisdom Uncle”, người có thương hiệu toàn về “kiến thức vô hạn”, gợi lên sức mạnh hoàn hảo: Anh ta có cơ bắp khổng lồ và giọng nói sâu, tự tin. Video của anh ấy được quảng cáo như một loại hướng dẫn nâng đỡ tinh thần, nhưng lời khuyên của anh ấy thường chỉ kích động sự đối lập giữa phụ nữ và đàn ông, exploiting sự bất an của người xem. “Một người đàn ông có thể yêu một phụ nữ không có gì, nhưng nhiều phụ nữ sẽ không yêu một người đàn ông không có gì,” anh ta nói trong một đoạn clip, có chú thích là “Sự thật không ai dám nói”. Trên YouTube, các video có tiêu dạng châm biếm — “7 SỰ THẬT TÀN KHỌC ĐỂ ANH ẤY NHỚ ĐẾN BẠN (KỂ CẢ KHI ANH ẤY KHÔNG HỨNG THÚ)”; “Nếu Anh Ấy Không Làm Cuộc Sống Bạn Dễ Dàng Hơn, Hãy Ở Đơn” — kích thích những phản ứng dễ dàng từ những người đang tìm kiếm người hẹn hò trong phần bình luận.

Các video này thường xuyên tái chế kịch bản của các chuyên gia hẹn hò dành cho người dị tính và lãng mạn hóa các động lực quyền lực không bình đẳng trong mối quan hệ. Podcaster AI Nia Luxe muốn bạn “hãy là sự bình yên của anh ấy, chứ không phải một vấn đề khác anh ấy phải giải quyết”. Laci Vince cố thuyết phục người xem rằng phụ nữ thường chấp nhận những gì tối thiểu, nói rằng “đàn ông giá trị cao không theo đuổi những phụ nữ dễ đạt được”. “Đàn ông quá mềm mỏng” và “phụ nữ quá độc lập”, khiến họ trở nên bất khả thi, người dẫn chương trình AI Lincoln Coles tuyên bố trong một đoạn clip. Huấn luyện viên Ari Banks, người được tạo ra bằng Higgsfield AI và chuyên về “những suy nghĩ mềm mại, những sự thật khắc nghiệt”, cho rằng việc theo đuổi một người mình thích nên chủ yếu do đàn ông thực hiện — “Đây là những gì bạn nên làm để khiến anh ấy chú ý đến bạn: Không có gì.”

Các video này cũng khẳng định quan điểm sắc đẹp một chiều. Đa số các podcaster nữ AI có thẩm mỹ Kardashian-Barbie, với các nét đẹp nữ thần, làn da trắng hoặc đủ sáng để hàm ý sự mơ hồ về chủng tộc, và một biểu diện mê hoặc. Họ rao giảng sự chấp nhận bản thân từ góc độ của một người phụ nữ đẹp hoàn hảo đã figuring out mọi thứ.

“Đó là tuyên truyền mềm,” Mandii B, đồng dẫn chương trình podcast về tình dục và lối sống Decisions, Decisions nói. Các video và tu từ mà chúng tung ra được đào tạo dựa trên các khuôn mẫu giới độc hại. “Nó lặng lẽ định hình niềm tin và kỳ vọng mà không cung cấp chiều sâu hay trách nhiệm giải trình. Nó nhắc tôi nhớ cách Giấc mơ Mỹ được đóng gói và bán trong nhiều thập kỷ: một câu chuyện lặp lại sạch sẽ, không nhất thiết phản ánh thực tế lộn xộn và đa dạng mà mọi người đang thực sự sống. Nội dung này làm điều tương tự với các mối quan hệ. Nó quảng bá các lý tưởng dễ tiêu hóa mà không có bối cảnh, sắc thái hay trách nhiệm.”

Tuy nhiên, hội thoại thực tế không phải là mục tiêu cuối cùng của các tài khoản này. Hầu như mọi trang mà WIRED xem xét đều là một “phễu” dẫn đến các khóa học trả phí về việc làm người có ảnh hưởng bằng AI. Ngoài bộ khởi nghiệp kinh doanh kỹ thuật số (117 USD) hoặc khóa học tăng tốc sản phẩm sáu tuần (147 USD), người tạo ra avatar Ari Banks còn cung cấp kế hoạch bài học giá 497 USD có tên “Trường Đại học Nội dung AI” nơi mọi người học được cách “Tạo podcast AI & nội dung người đang nói đầu viral, Làm công thức Độ chân thực™ (để nội dung của bạn không trông giống AI), và Sử dụng đồng môi + nhân bản giọng nói để đưa nội dung của bạn trở nên sống động”. Cô ấy hứa hẹn sẽ “Biến nội dung của bạn thành thu nhập (không chỉ là lượt xem)”.

AI with Lotti, người tạo ra tài khoản Luxe, người tự nhận đã phát triển trang Facebook của mình lên 100.000 người theo dõi và 12 triệu lượt xem trong vòng dưới 30 ngày, đang bán khóa học “Học viện AI Luxe” với giá 84 USD. Và với giá 9,97 USD, bạn có thể mua “300+ Câu trích dẫn Cho Những Phụ nữ Từ chối settles” của Melissa Devine để giúp viết kịch bản cho danh tính podcaster AI của bạn.

“Về cơ bản, đây là cùng một nguyên lý thúc đẩy nội dung người có ảnh hưởng hoạt động hiệu quả cao: tính cụ thể và sự cộng hưởng cảm xúc,” Lily Comba, người sáng lập và CEO của cơ quan marketing người có ảnh hưởng Superbloom nói. “Sự khác biệt là AI đang chạy kịch bản đó ở quy mô lớn. Nhưng sự tương tác mà không có mối quan hệ bên dưới sẽ có trần giới. Marketing người có ảnh hưởng đã học được bài học đó một cách khó khăn, và tôi kỳ vọng những người sáng tạo AI sẽ vấp phải cùng bức tường đó.”

Có thể tổn hại lớn nhất trong các video này nằm ở mức độ bình thường của chúng. Realm của AI hiện bị ô nhiễm bởi nội dung bị thao túng hoặc kỳ quái, bạo lực, gợi tình hoặc gây sốc theo kiểu hoạt hình — một số người vẫn còn ám ảnh bởi những video trái cây đó — nhưng các đoạn clip podcast AI chủ yếu áp dụng tông giọng bình thường. Không có gì quá đặc biệt về các cảnh ngoại trừ lời khuyên được đưa ra. Đó là thứ khiến chúng lén lút.

Nhưng những người tạo ra những nhân dạng AI hoàn hảo này có vẻ không nhận ra rằng tầm quan trọng của podcasting — và có lẽ là sức mạnh của phương tiện này — nằm hoàn toàn ở sự không hoàn hảo của con người: những cuộc trò chuyện, ý kiến và trải nghiệm không always được đóng gói gọn gàng nhưng được chia sẻ với một sự thẳng thắn chưa qua biên tập.

Dù vậy, Mandii B hiểu lý do tại sao mọi người bị thu hút bởi phong cách nội dung tình yêu nhân tạo này. “Họ đang tìm kiếm sự hướng dẫn. Khi một thứ gì đó nghe thấy tự tin, trau chuốt và được chấp nhận rộng rãi, thì rất dễ tin vào nó.” Cô ấy không lo lắng rằng podcaster AI sẽ thay thế cô ấy bất cứ lúc nào. Sự phổ biến của các video này xoay quanh một vấn đề lớn hơn đang gây rối cho xã hội, cô ấy nói. “Mọi người không thích tự nghĩ cho mình.”