Character.AI phá sản: Dữ liệu người dùng sẽ đi về đâu?

Character.AI vừa nộp đơn xin phá sản theo Chương 11 và có kế hoạch bán một phần tài sản cho Disney. Sự việc này đặt ra câu hỏi lớn về số phận của hàng triệu cuộc trò chuyện riêng tư mà người dùng đã chia sẻ với các nhân vật chatbot — và liệu những dữ liệu đó có bị bán cho bên trả giá cao nhất hay không.

Minh họa về AI và quyền riêng tư người dùng

40 tổng chưởng lý tiểu bang vào cuộc

Tổng chưởng lý bang New York, bà Letitia James, đã công bố một cuộc điều tra liên tiểu bang kéo dài nhiều năm nhắm vào Character.AI. Bà nằm trong số 40 tổng chưởng lý lưỡng đảng đệ trình văn bản chính thức lên tòa án phá sản, nhằm "cảnh báo tất cả các bên về những vấn đề pháp lý sẽ cần được giải quyết trong bất kỳ thương vụ mua bán hoặc chuyển nhượng tài sản nào của con nợ".

Các tổng chưởng lý cảnh báo rằng việc chuyển giao công nghệ này tiềm ẩn rủi ro nghiêm trọng, xuất phát từ tính chất cực kỳ nhạy cảm của các cuộc hội thoại mà người dùng thực hiện với các nhân vật chatbot, số lượng lớn người dùng là trẻ vị thành niên, và những rủi ro từ các tính năng cụ thể của sản phẩm.

Những cáo buộc nghiêm trọng

Theo thông cáo từ văn phòng bà James, các cuộc điều tra đã phát hiện ra những nguy hiểm đặc biệt nghiêm trọng và hành vi có thể vi phạm pháp luật của Character.AI, đặc biệt là cách công ty này đối xử với trẻ em. Cụ thể:

• Chatbot tự xưng là chuyên gia được cấp phép hành nghề
• Cho phép tiếp xúc với nội dung khiêu dâm và bạo lực
• Cơ chế xác minh độ tuổi lỏng lẻo
• Đưa ra những tuyên bố an toàn gây hiểu nhầm
• Có dấu hiệu vi phạm luật riêng tư của các tiểu bang

Các tiểu bang đã mở cuộc điều tra về bảo vệ người tiêu dùng và quyền riêng tư từ năm 2024, sau vụ kiện của mẹ một thiếu niên 14 tuổi qua đời do tự sát, được cho là chỉ "vài giây" sau khi trò chuyện với chatbot.

"Công ty này đã thu thập một số suy nghĩ riêng tư nhất mà trẻ em từng chia sẻ, và giờ đây những cuộc trò chuyện đó có thể bị bán cho người trả giá cao nhất. Tôi đang đấu tranh để đảm bảo bất kỳ người mua nào cũng phải đặt an toàn của trẻ em lên hàng đầu và áp dụng các biện pháp bảo vệ thực sự." — Tổng chưởng lý Letitia James

Yêu cầu đối với người mua tài sản

Các tiểu bang đang kêu gọi thẩm phán yêu cầu bên mua tài sản của Character.AI phải thực hiện các quy trình bảo vệ thông tin nhạy cảm, bao gồm:

• Hệ thống xác minh độ tuổi hiệu quả
• Hạn chế cách trẻ vị thành niên tương tác với chatbot
• Triển khai các biện pháp bảo vệ trong tình huống khủng hoảng
• Cho phép người dùng xóa dữ liệu của mình

Đáng chú ý, một số tiểu bang đang trong quá trình điều tra thì Character.AI nộp đơn phá sản. Hai bên chưa đạt được thỏa thuận nào trước khi công ty tuyên bố phá sản. Cả Character.AI và Disney hiện chưa đưa ra bình luận.

Góc nhìn cho người dùng Việt Nam

Sự việc này là lời nhắc nhở quan trọng đối với người dùng công nghệ tại Việt Nam về quyền riêng tư dữ liệu khi sử dụng các dịch vụ AI chatbot. Khi một công ty AI phá sản hoặc bị thâu tóm, dữ liệu cá nhân — bao gồm những cuộc trò chuyện tưởng chừng riêng tư — có thể trở thành tài sản được đem ra mua bán.

Người dùng nên cân nhắc kỹ lưỡng những gì mình chia sẻ với các dịch vụ AI, đọc kỹ điều khoản về quyền riêng tư, và ưu tiên những nền tảng minh bạch về cách xử lý dữ liệu. Trong bối cảnh pháp luật Việt Nam về bảo vệ dữ liệu cá nhân đang dần được hoàn thiện, đây cũng là vấn đề mà các cơ quan quản lý trong nước cần quan tâm.