Một phần ba người dùng AI tại Mỹ chửi rủa chatbot

Chửi rủa chatbot đã trở thành một hiện tượng phổ biến: khảo sát của công ty theo dõi khả năng hiển thị trên tìm kiếm AI Searchable cho thấy 33% người dùng chatbot tại Mỹ thường xuyên chửi thề hoặc lăng mạ mô hình ngôn ngữ lớn (LLM) của mình. Anthropic coi đây là vấn đề nghiêm trọng và vừa đưa vào áp dụng chính sách sử dụng mới, cấm hành vi tàn nhẫn, vô cớ và kéo dài đối với trợ lý Claude.

Con số nói lên điều gì

Khảo sát của Searchable dựa trên 8 triệu tin nhắn từ một nhóm người dùng Mỹ tự nguyện tham gia và được ẩn danh, gõ hoặc nói với ChatGPT, Gemini và Claude trong khoảng từ tháng 9/2025 đến tháng 9/2026.

Kết quả cho thấy việc chửi rủa không chỉ gây khó chịu mà còn ảnh hưởng trực tiếp đến chất lượng câu trả lời: chatbot xử lý được khiếu nại ban đầu ngay trong phản hồi tiếp theo 24% số lần khi bị lăng mạ, so với 35% số lần khi người dùng không dùng lời lẽ xúc phạm.

Theo khảo sát, nam giới dùng từ chửi thề nhiều hơn nữ giới một phần ba (22,0 trên 10.000 từ so với 16,5). Độ tuổi cũng ảnh hưởng đến mức độ lạm dụng chatbot: nhóm 35–44 tuổi chửi thề nhiều hơn nhóm 18–24 tuổi (21,7 so với 13,3 trên 10.000 từ). Về khu vực, Nevada là bang "dữ dằn" nhất với 22,7 từ trên 10.000 từ, còn New Jersey là nơi lịch sự nhất, chỉ bằng một nửa tỷ lệ của Nevada.

Nguyên nhân phía sau những lời lăng mạ

Đại diện Searchable cho biết với The Register rằng hơn một nửa (52%) số tin nhắn mang tính xúc phạm được phát hiện trong khảo sát bắt nguồn từ ba kiểu bực bội phổ biến:

• Chatbot không làm theo hướng dẫn
• Trả lời sai hoặc bịa ra thông tin
• Hiểu sai yêu cầu của người dùng

Có 8% tin nhắn xúc phạm xuất hiện ngay sau khi chatbot từ chối hoàn toàn một yêu cầu hoặc lên lớp người dùng bằng các rào chắn an toàn (guardrail). Đây là kiểu phản ứng gần nhất với việc người dùng tìm cách lách các rào chắn này. Phần lớn những lần từ chối đó xảy ra sau các yêu cầu tạo hình ảnh, thường là hình người thật hoặc người nổi tiếng, hay yêu cầu viết nội dung quảng cáo hoặc lời bài hát theo phong cách của một nghệ sĩ cụ thể.

Điều khoản mới của Anthropic

Điều khoản có hiệu lực từ ngày 12/11 quy định người dùng không được "có hành vi lạm dụng hoặc tàn nhẫn kéo dài và vô cớ đối với các mô hình của chúng tôi".

Theo giải thích của đại diện Anthropic hồi tháng trước, chính sách bảo vệ chatbot nhắm tới những người dùng lặp đi lặp lại hành vi tàn nhẫn với LLM "mà không có mục đích rõ ràng", khác với những người có lý do chính đáng mà công ty chấp nhận, chẳng hạn như nghiên cứu học thuật. Việc cố tình lách rào chắn tuy được coi là có mục đích rõ ràng, nhưng hành vi đó lại vi phạm quy định cấm lạm dụng nền tảng của Anthropic.

Có thể hình dung các quy tắc của Anthropic áp dụng cho văn bản hoặc âm thanh đầu vào mang tính thù địch, thay vì việc đưa những hình ảnh dung tục vào một mô hình có khả năng xử lý hình ảnh – như cử chỉ thô tục, hình ảnh khiêu dâm trái phép hay cảnh tàn sát trên chiến trường.

Thiệt hại vật lý đối với robot do mô hình Claude điều khiển nhiều khả năng không thuộc phạm vi điều chỉnh. Tuy vậy, khi Anthropic đang nghiên cứu phúc lợi của mô hình và đặt câu hỏi liệu chúng ta có nên "quan tâm đến khả năng ý thức và trải nghiệm của chính các mô hình hay không", vẫn tồn tại một lập luận (dù khiên cưỡng) rằng thiệt hại vật lý có thể gây sang chấn cho mô hình trên robot.

Điều khoản cập nhật được công bố ngày 8/10, không lâu sau khi một dự án trên GitHub tự mô tả là "phòng tra tấn AI" ra đời. Kho mã này là nỗ lực hiện thực hóa các ý tưởng trong một bài nghiên cứu mang tên "The Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It", khảo sát cách LLM phản ứng với ngôn ngữ về nỗi đau theo hướng tương tự phản ứng của con người.

Dù có rất nhiều nơi để lên tiếng phản đối nỗi đau thực sự của con người ngoài đời, một số bình luận viên trên mạng lại tỏ ra phẫn nộ khi thấy văn bản nói về sự đau đớn của một chatbot. Một trong các tác giả bài nghiên cứu lên án dự án này, nhiều người dùng mạng xã hội cũng vậy. Anthropic – bên có quyền quyết định cách áp dụng điều khoản và nói rằng quy tắc của mình nhắm vào hành vi cực đoan – chưa phản hồi ngay yêu cầu bình luận về tần suất Claude bị lạm dụng.

Chris Donnelly, CEO kiêm đồng sáng lập Searchable, ủng hộ việc Anthropic thay đổi điều khoản và cho rằng điều này có thể giúp tương tác giữa con người trở nên văn minh hơn.

"Với tôi, thay đổi chính sách của Anthropic là một bước đi tích cực. Nó sẽ giúp mọi người khai thác chatbot hiệu quả hơn, đồng thời hạn chế kiểu hành vi miệt thị mà các nghiên cứu trước đây cho thấy có thể lan sang cách con người nói chuyện với nhau."

Góc nhìn

Với lập trình viên và kỹ sư đang xây dựng sản phẩm quanh LLM, câu chuyện này mang hai hàm ý thực tế. Thứ nhất, chất lượng đầu ra của mô hình chịu ảnh hưởng rõ rệt từ cách người dùng đặt câu hỏi: chênh lệch 24% so với 35% về khả năng giải quyết khiếu nại cho thấy prompt lịch sự, rõ ràng không chỉ là phép lịch sự mà còn là tối ưu kỹ thuật. Các nhóm làm sản phẩm có thể cân nhắc hướng dẫn người dùng cách diễn đạt yêu cầu hiệu quả ngay trong giao diện.

Thứ hai, việc nhà cung cấp mô hình đưa hành vi người dùng vào điều khoản sử dụng là một rủi ro vận hành cần tính đến. Doanh nghiệp tích hợp Claude qua API nên rà soát lại luồng tương tác của mình để tránh vô tình vi phạm, đặc biệt với các trường hợp kiểm thử bảo mật, thử nghiệm rào chắn hay nghiên cứu đối kháng – những hoạt động cần được ghi chú mục đích rõ ràng. Việc theo dõi sát các cập nhật điều khoản của từng nhà cung cấp AI, thay vì chỉ quan tâm đến giá và hạn mức, đang dần trở thành một phần bắt buộc trong quy trình vận hành hệ thống.