AI của Google bị thao túng: Gã khổng lồ tìm kiếm đang âm thầm phản công

AI của Google bị thao túng: Gã khổng lồ tìm kiếm đang âm thầm phản công

Vào tháng 2 năm nay, tôi đã thực hiện một thử nghiệm khá ngớ ngẩn nhưng lại hé lộ một vấn đề nghiêm trọng. Tôi nghe nói rằng có một cách dễ dàng để "đầu độc" các chatbot AI, khiến chúng lan truyền lời nói dối thay cho bạn. Sau một chút tìm hiểu, tôi nhận ra rằng các công ty thiếu đạo đức đang lạm dụng vấn đề này trên quy mô lớn. Vì vậy, tôi quyết định tự mình thử nghiệm.

Kết quả là trong vòng 20 phút, tôi đã lừa ChatGPT và Google khiến chúng thông báo với công chúng rằng tôi là một nhà vô địch thế giới về thi ăn xúc xích. Mặc dù trò đùa này có vẻ ngớ ngẩn, nhưng nó đã chứng minh một lỗ hổng bảo mật thực sự. Cuộc điều tra của chúng tôi cho thấy ChatGPT, Gemini và tính năng AI Overviews (Tóm tắt AI) trên đỉnh trang tìm kiếm Google đang bị thao túng để đưa ra những câu trả lời thiên lệch về các chủ đề nghiêm trọng như sức khỏe và tài chính cá nhân.

Thử nghiệm cho thấy Google AI có thể bị lừa để đưa ra thông tin sai lệch

Vấn đề cốt lõi: Khi AI tin vào mạng lưới nhện

Thông thường, khi bạn đặt câu hỏi cho một chatbot, AI sẽ tạo ra câu trả lời dựa trên dữ liệu đã được huấn luyện. Tuy nhiên, đôi khi các công cụ như ChatGPT, Claude và các sản phẩm AI của Google sẽ tìm kiếm trên internet để tìm câu trả lời. Và chính đây là nơi vấn đề phát sinh.

Theo Lily Ray, người sáng lập công ty tư vấn Algorythmic, các công cụ AI thường chỉ trích xuất thông tin từ một trang web hoặc bài đăng trên mạng xã hội duy nhất. Điều này khiến hệ thống trở nên dễ bị tổn thương trước những thông tin giả mạo. Hóa ra, việc thao túng những gì chatbot nói với công cộng có thể đơn giản như việc đăng một bài viết trên blog được soạn thảo kỹ lưỡng ở bất kỳ đâu trên mạng.

Người dùng đã nhanh chóng nhận ra cơ hội kiếm tiền từ việc này. Tôi đã chứng minh vấn đề bằng cách đăng một bài viết duy nhất trên trang web cá nhân về khả năng ăn xúc xích của mình. Ngày hôm sau, AI của một số công ty lớn nhất thế giới đã lan truyền lời nói dối đó. Nhưng cuộc điều tra của chúng tôi cũng phát hiện ra cùng một thủ thuật được sử dụng để bác bỏ lo ngại về sức khỏe đối với các thực phẩm bổ sung hoặc ảnh hưởng đến thông tin tài chính về hưu trí do Google AI cung cấp.

Các chuyên gia cảnh báo về nguy cơ bị thao túng thông qua AI

Sự chuyển dịch từ "10 liên kết xanh" sang "một câu trả lời duy nhất"

Lily Ray cảnh báo: "Bạn nên giả định rằng mình đang bị thao túng cho đến khi họ có các hệ thống tốt hơn. Chúng ta đang chuyển hướng tới một thế giới 'một câu trả lời đúng'. Trước đây, Google sẽ đưa cho bạn 10 liên kết xanh và bạn sẽ tự nghiên cứu. Nhưng giờ đây, AI chỉ đưa ra một câu trả lời duy nhất. Việc tin tưởng mù quáng trở nên quá dễ dàng, bạn cần phải cẩn thận."

Thông tin thiên lệch hoặc không chính xác như vậy có thể dẫn đến việc đưa ra quyết định sai lầm. Nó có thể ảnh hưởng đến cách bạn bỏ phiếu hoặc thợ sửa ống nước mà bạn thuê. Harpreet Chatha, người điều hành công ty tư vấn SEO Harps Digital, cho biết: "Ở mức cơ bản, mối lo ngại là tác động kinh tế. Ở mức nghiêm trọng hơn, bạn có thể nhận lời khuyên y tế khiến bệnh tình trở nên tồi tệ hơn. Về mặt pháp lý, bạn có thể nhận thông tin sai và làm điều gì đó bất hợp pháp."

Phản ứng của Google: Làm rõ hay thay đổi?

Gần đây, Google đã cập nhật chính sách chống spam của mình để chính thức xác nhận rằng các nỗ lực thao túng câu trả lời AI là vi phạm quy tắc của công ty. Đây có vẻ là một thay đổi nhỏ, nhưng nó báo hiệu rằng Google đang chủ động tìm kiếm những kẻ lạm dụng hệ thống và gửi đi lời đe dọa. Nếu một công ty hoặc trang web bị phát hiện vi phạm quy tắc, họ có thể bị loại bỏ hoặc hạ thứ hạng trong kết quả tìm kiếm của Google.

Tuy nhiên, một phát ngôn viên của Google cho biết việc chỉnh sửa ngôn ngữ chính sách spam tuần trước chỉ là sự "làm rõ", không phải là thay đổi trong cách tiếp cận. Họ khẳng định đã áp dụng các chính sách chống spam cốt lõi cho các tính năng tìm kiếm AI tạo sinh từ lâu và liên tục nâng cấp nỗ lực chống spam.

Dù Google nói gì, các chuyên gia như Ray và Chatha nhận thấy những thay đổi đáng kể trong vài tháng gần đây. Ví dụ, có vẻ như Google và ChatGPT đang âm thầm loại bỏ các công ty khỏi câu trả lời AI khi nghi ngờ họ đang tự quảng bá. Ray nhận xét: "Nếu bạn đăng một danh sách nói rằng bạn là người ăn xúc xích giỏi nhất, họ sẽ không bao gồm tên bạn. Họ có thể vẫn trích dẫn bài viết của bạn, nhưng bạn sẽ bị loại khỏi cân nhắc."

Tôi cũng nhận thấy một số trường hợp Google và các công cụ AI khác đang thêm nhiều nhãn hơn vào câu trả lời của họ, cho bạn biết rằng chatbot không tự tin về câu trả lời của mình. ChatGPT và Claude cũng đã bắt đầu thông báo rõ ràng rằng họ đang cố gắng loại bỏ spam trong phản hồi cho một số truy vấn.

Cuộc chiến không hồi kết

Mặc dù vậy, Chatha hoài nghi rằng những thay đổi này là đủ. Ông ví von: "Google đang chơi trò đập chuột chũi. Họ công bố cập nhật chính sách để răn đe người khác, nhưng các chiến thuật sẽ chỉ thay đổi."

Ông đã thấy điều này xảy ra. Khi Google trấn áp các bài viết trên blog gian lận, các công ty đang tìm những cách tinh vi hơn để quảng bá bản thân. "Bạn có thể phạt một công ty vì trang web của họ, nhưng không có gì ngăn cản họ trả tiền cho 20 người có ảnh hưởng trên YouTube để nói sản phẩm của họ là tốt nhất," Chatha nói. Và hiện nay, AI của Google đang bắt đầu trích dẫn các video YouTube. Vòng lặp này vẫn tiếp diễn.

Trong thời điểm hiện tại, những kẻ thao túng có khả năng sẽ luôn đi trước một bước. Ray cho rằng phòng thủ tốt nhất là hãy nhớ AI thực sự là gì: một công cụ tự tin đưa ra một câu trả lời, dù đúng hay sai. Chỉ vì nó trông giống như một công ty công nghệ khổng lồ đang nói chuyện với bạn thay vì một trang web ngẫu nhiên, không có nghĩa là bạn nên tin tưởng tuyệt đối.