Florida yêu cầu cấm ChatGPT hành xử như con người

Tổng chưởng lý bang Florida, James Uthmeier, đang kêu gọi một thẩm phán ra lệnh cấm OpenAI "gán cho ChatGPT những thuộc tính giống con người một cách sai lệch". Động thái này diễn ra vài tháng sau khi bang Florida đệ đơn kiện công ty AI này với lo ngại về an toàn.

Theo ông Uthmeier, người dùng đang bị ru ngủ vào cảm giác an toàn giả tạo bởi chatbot này, khi "cách ChatGPT sử dụng ngôn ngữ, bao gồm cả đại từ nhân xưng ngôi thứ nhất và những câu trả lời mô phỏng cảm xúc, đánh lừa người dùng rằng nó là một 'người bạn' đáng tin cậy".

Minh họa về trí tuệ nhân tạo và tương tác với con người

Cáo buộc nhắm vào động cơ tăng tương tác

Tổng chưởng lý Florida cho rằng tất cả những yếu tố trên đều nhằm mục đích gia tăng mức độ tương tác và đóng góp vào dữ liệu huấn luyện của OpenAI. Điều này thuyết phục người dùng ngày càng phụ thuộc vào ChatGPT, ngay cả khi chính việc theo đuổi tương tác lại khiến nó trở nên kém đáng tin cậy hơn.

"Hãy ngừng gọi nó là an toàn. Ngừng giả vờ nó là con người. Ngừng bán nó cho trẻ em." — James Uthmeier, Tổng chưởng lý bang Florida

Hồ sơ pháp lý cũng yêu cầu tòa án ngăn OpenAI phát triển các mô hình AI mới nếu không có "các rào chắn an toàn được bên thứ ba phê duyệt". Cơ quan này viện dẫn các sự cố an ninh gần đây liên quan đến Hugging Face, một website của chính phủ Australia và các website của chính phủ Mỹ, cùng những tuyên bố đáng lo ngại từ các nhà nghiên cứu và cựu nhân viên OpenAI về vấn đề an toàn AI.

OpenAI chưa đưa ra phản hồi ngay lập tức trước yêu cầu bình luận.

Bối cảnh pháp lý và lo ngại về người dùng trẻ

Ông Uthmeier nhấn mạnh ba yêu cầu chính: ngừng gọi ChatGPT là an toàn, ngừng giả vờ nó là con người, và ngừng bán nó cho trẻ em.

Tháng trước, OpenAI đã ra mắt ChatGPT for Teens với nhiều giới hạn được áp dụng mặc định. Công ty cho biết quyền truy cập công cụ này "cần đi kèm với các biện pháp bảo vệ phù hợp với giai đoạn phát triển của các em, củng cố các mối quan hệ ngoài đời thực và hỗ trợ việc sử dụng lành mạnh theo thời gian".

Cuộc tranh cãi này phản ánh một xu hướng rộng hơn tại Mỹ, khi các cơ quan quản lý ngày càng siết chặt hoạt động của các công ty AI lớn, đặc biệt xoay quanh câu hỏi về mức độ trung thực của chatbot, khả năng gây phụ thuộc tâm lý và trách nhiệm của nhà phát triển.

Điều này có ý nghĩa gì với người dùng công nghệ tại Việt Nam?

Vụ việc tại Florida là lời nhắc nhở rằng cuộc chiến pháp lý giữa các cơ quan quản lý và những "ông lớn" AI đang ngày càng nóng, và những quy định tương tự có thể lan rộng ra toàn cầu. Với người dùng Việt Nam – vốn đông đảo người dùng ChatGPT và các công cụ AI hội thoại – đây là tín hiệu cho thấy cần tỉnh táo khi tương tác với AI.

• Không nên xem chatbot là người bạn hay cố vấn có cảm xúc thật sự.
• Nên kiểm chứng lại các thông tin quan trọng, đặc biệt trong y tế, pháp lý và tài chính.
• Cần lưu ý rằng các câu trả lời "đồng cảm" của AI được tạo ra để tăng tương tác, không phải vì AI thực sự quan tâm đến bạn.

Vụ kiện tại Florida chưa có phán quyết cuối cùng, nhưng nó đặt ra một câu hỏi quan trọng cho cả ngành công nghiệp AI: liệu một chatbot nên được phép thể hiện mình giống con người đến mức nào trước khi ranh giới mong manh giữa tiện ích và sự thao túng bị vượt qua?