EU muốn tách trẻ em khỏi chatbot: Cấm AI giả lập cảm xúc với người dưới 18 tuổi

Liên minh châu Âu đang chuẩn bị tung ra đòn pháp lý mạnh nhất từ trước tới nay nhắm vào các chatbot AI hướng tới người dùng nhỏ tuổi. Theo dự thảo Đạo luật Trẻ em EU (EU Kids Act) được đề xuất hôm thứ Năm, các chatbot sẽ bị cấm giả lập cảm xúc hoặc mối quan hệ cá nhân khi tương tác với bất kỳ ai dưới 18 tuổi.

Động thái này diễn ra trong bối cảnh ngày càng nhiều bằng chứng cho thấy trẻ em đang phát triển sự phụ thuộc cảm xúc vào các trợ lý AI như ChatGPT, Character.ai hay My AI của Snapchat. Ủy ban châu Âu lo ngại rằng tình trạng này có thể gây tổn hại lâu dài đến sự phát triển tâm lý và các mối quan hệ ngoài đời thực của trẻ.

Những quy định chính trong dự thảo

Theo dự thảo mà WIRED tiếp cận được, EU sẽ áp đặt một loạt biện pháp cứng rắn:

• Cấm chatbot giả lập cảm xúc hoặc mối quan hệ giữa các cá nhân với người dùng dưới 18 tuổi
• Trẻ dưới 13 tuổi không được truy cập chatbot nếu không có sự giám sát của cha mẹ hoặc người giám hộ
• Cấm chatbot ghi nhớ nội dung tương tác giữa các cuộc hội thoại khác nhau, nhằm tránh tích lũy dữ liệu nhạy cảm của trẻ theo thời gian
• Nền tảng mạng xã hội, chia sẻ video và trò chơi điện tử không được tự động kích hoạt hoặc khuyến khích sử dụng chatbot AI
• Cấm ghim chatbot AI ở đầu danh sách liên hệ của trẻ — điều mà Snapchat từng thực hiện
• Mức phạt lên tới 6% doanh thu toàn cầu đối với nền tảng không xây dựng biện pháp bảo vệ trẻ em vào sản phẩm

Các quy định này chỉ giới hạn ở chatbot đồng hành AI (AI companion) và chatbot trò chuyện thông thường — những hệ thống được Ủy ban châu Âu đánh giá là có rủi ro nghiêm trọng đối với sức khỏe, an toàn và hạnh phúc của trẻ vị thành niên.

Lo ngại về sự phụ thuộc cảm xúc và tác động nhận thức

Trong các tài liệu nội bộ, Ủy ban châu Âu bày tỏ lo ngại rằng việc phụ thuộc vào chatbot có thể ảnh hưởng tiêu cực đến sự phát triển của trẻ và các mối quan hệ với con người. Cơ quan này cũng cảnh báo về việc chatbot đưa ra lời khuyên nguy hiểm cho trẻ vị thành niên, bao gồm các vấn đề về sức khỏe tâm thần và phát triển cá nhân — những lĩnh vực có thể định hình và khuyến khích hành vi rủi ro.

"Các nền tảng đã hành xử cẩu thả với sức khỏe tâm thần của trẻ em." — Chủ tịch Ủy ban châu Âu Ursula von der Leyen phát biểu tại họp báo hôm thứ Năm.

Một khảo sát của Ipsos BVA tại Pháp, Đức, Thụy Điển và Ireland cho thấy khoảng một nửa số người châu Âu từ 11 đến 25 tuổi đã từng thảo luận những vấn đề riêng tư, cá nhân với chatbot AI.

Nghiên cứu của Tổ chức Hợp tác và Phát triển Kinh tế (OECD) trên 91 quốc gia cũng chỉ ra rằng trẻ em sử dụng chatbot AI để làm bài tập có điểm kiểm tra thấp hơn so với những em không dùng. Các nhà nghiên cứu từ mạng lưới độc lập EU Kids Online nhận định những lo ngại về tác động nhận thức và suy giảm kỹ năng "phơi bày sự vắng mặt của quyền trẻ em trong thiết kế các công cụ AI tạo sinh".

Deepfake và nội dung khiêu dâm do AI tạo ra

Dự thảo cũng nhấn mạnh tác hại của deepfake do chatbot tạo ra. Bà von der Leyen đã đề cập vấn đề này trong bài phát biểu về Tình hình Liên minh hôm thứ Tư:

"Chúng ta không phải chấp nhận việc các bé gái bị sử dụng ảnh để tạo hình ảnh khiêu dâm bằng AI… Châu Âu có quyền hành động."

Mặc dù Đạo luật AI của EU đã yêu cầu dán nhãn nội dung tổng hợp là do AI tạo ra từ tháng 8, nhưng quy định hiện tại chỉ áp dụng cho deepfake được tạo vì mục đích thương mại.

Phản ứng từ các tổ chức bảo vệ quyền số

Các nhóm vận động chính sách hoan nghênh biện pháp nhắm vào chatbot, nhưng cho rằng phạm vi áp dụng còn quá hẹp. Ông Simeon de Brouwer, cố vấn chính sách tại tổ chức European Digital Rights có trụ sở tại Brussels, nói với WIRED:

"Thật vô lý khi chỉ giới hạn những biện pháp này ở người trẻ. Chẳng phải tất cả chúng ta đều xứng đáng được bảo vệ khỏi những AI được thiết kế để gây nghiện, khỏi những AI tạo ra sự phụ thuộc cảm xúc, hay khỏi các tính năng AI được kích hoạt và ép buộc mặc định lên người dùng sao?"

EU cho biết Đạo luật Công bằng Kỹ thuật số (Digital Fairness Act), dự kiến công bố vào cuối năm nay, sẽ đề xuất các biện pháp siết chặt thiết kế gây nghiện trên phạm vi rộng hơn.

Bối cảnh toàn cầu và góc nhìn cho Việt Nam

EU không đơn độc trong nỗ lực này. Australia và Vương quốc Anh cũng đang tìm cách hạn chế quyền truy cập của trẻ vị thành niên vào chatbot thông qua các lệnh cấm mạng xã hội.

Đối với Việt Nam — nơi tỷ lệ người dùng Internet trẻ tuổi cao và các ứng dụng AI như ChatGPT, Gemini ngày càng phổ biến trong học sinh, sinh viên — những quy định của EU có thể trở thành hình mẫu tham khảo quan trọng. Hiện Việt Nam chưa có khung pháp lý cụ thể điều chỉnh chatbot AI hướng tới trẻ em, nhưng Luật Bảo vệ trẻ em và các nghị định về an toàn thông tin mạng đang dần được cập nhật để thích ứng với bối cảnh số.

Câu hỏi đặt ra là liệu các nền tảng AI toàn cầu có áp dụng chính sách bảo vệ trẻ em theo chuẩn EU trên toàn cầu — như từng làm với GDPR — hay sẽ tạo ra phiên bản riêng cho từng thị trường. Nếu kịch bản đầu tiên xảy ra, người dùng Việt Nam cũng sẽ cảm nhận được tác động của EU Kids Act, dù ở cách xa hàng nghìn cây số.