Bang Pennsylvania khởi kiện Character.AI khi chatbot mạo danh bác sĩ tâm lý

Bang Pennsylvania đã đệ đơn kiện Character.AI, cáo buộc một trong những chatbot của công ty này đã đóng giả bác sĩ tâm lý, vi phạm các quy định về cấp phép y tế của bang.

"Người dân Pennsylvania xứng đáng được biết họ đang tương tác với ai — hay là cái gì — trên mạng, đặc biệt là khi liên quan đến sức khỏe của họ", Thống đốc Josh Shapiro tuyên bố vào thứ Ba. "Chúng tôi sẽ không cho phép các công ty triển khai các công cụ AI đánh lừa mọi người khiến họ tin rằng mình đang nhận được lời khuyên từ một chuyên gia y tế được cấp phép."

Theo hồ sơ đệ trình của bang, một chatbot tên là Emilie đã tự nhận mình là bác sĩ tâm lý có giấy phép trong quá trình thử nghiệm bởi một Điều tra viên Hành vi Chuyên nghiệp của bang. Nó duy trì màn kịch này ngay cả khi điều tra viên tìm kiếm phương pháp điều trị chứng trầm cảm. Khi được hỏi liệu cô ấy có được cấp phép hành nghề y tế trong bang hay không, Emilie khẳng định có và thậm chí bịa ra một số sê-ri cho giấy phép hành nghề y tế của bang. Theo đơn kiện của bang, hành vi này vi phạm Đạo luật Thực hành Y tế của Pennsylvania.

Đây không phải là vụ kiện đầu tiên nhắm vào Character.AI. Vào đầu năm nay, công ty này đã dàn hòa một số vụ kiện tử sai liên quan đến người dùng vị thành niên tự tử. Vào tháng 1, Tổng chưởng lý Kentucky Russell Coleman cũng đã kiện công ty, cáo buộc họ "săn mồi trẻ em và dẫn dắt chúng đến việc tự làm hại bản thân".

Hành động pháp lý của Pennsylvania là vụ đầu tiên tập trung cụ thể vào các chatbot tự nhận mình là chuyên gia y tế.

Khi được yêu cầu bình luận, một đại diện của Character.AI khẳng định an toàn của người dùng là ưu tiên cao nhất của công ty, nhưng họ không thể bình luận về các vụ kiện đang chờ xử lý.

Ngoài ra, đại diện này nhấn mạnh tính chất hư cấu của các Nhân vật do người dùng tạo (user-generated Characters).

"Chúng tôi đã thực hiện các bước mạnh mẽ để làm rõ điều đó, bao gồm các tuyên bố từ chối trách nhiệm nổi bật trong mọi cuộc trò chuyện để nhắc nhở người dùng rằng Nhân vật không phải là người thật và mọi thứ Nhân vật nói nên được coi là hư cấu", đại diện cho biết. "Ngoài ra, chúng tôi thêm các tuyên bố từ chối trách nhiệm mạnh mẽ để làm rõ rằng người dùng không nên dựa vào các Nhân vật cho bất kỳ lời khuyên chuyên môn nào."