OpenAI công bố bản thiết kế an toàn mới nhằm ngăn chặn nạn khai thác tình dục trẻ em gia tăng nhờ AI

OpenAI công bố bản thiết kế an toàn mới nhằm ngăn chặn nạn khai thác tình dục trẻ em gia tăng nhờ AI

OpenAI đã công bố "Bản thiết kế an toàn cho trẻ em" (Child Safety Blueprint) để giải quyết tình trạng khai thác tình dục trẻ em ngày càng gia tăng liên quan đến sự phát triển của trí tuệ nhân tạo. Kế hoạch này tập trung vào việc phát hiện nhanh hơn, báo cáo tốt hơn và điều tra hiệu quả hơn các trường hợp lạm dụng được hỗ trợ bởi AI.

Bối cảnh và mục tiêu

Để đáp lại những lo ngại ngày càng tăng về an toàn trực tuyến, OpenAI đã công bố một bản thiết kế nhằm nâng cao các nỗ lực bảo vệ trẻ em tại Hoa Kỳ trong bối cảnh bùng nổ công nghệ AI. Bản thiết kế Child Safety, được phát hành vào thứ Ba, được thiết kế để hỗ trợ việc phát hiện nhanh hơn, báo cáo tốt hơn và điều tra hiệu quả hơn các trường hợp khai thác tình dục trẻ em được thực hiện thông qua AI.

Mục tiêu tổng thể của bản thiết kế này là giải quyết sự gia tăng đáng báo động về nạn khai thác tình dục trẻ em liên quan đến những tiến bộ trong lĩnh vực AI.

Thống kê đáng báo động

Theo Quỹ Foundation Internet Watch (IWF), hơn 8.000 báo cáo về nội dung lạm dụng tình dục trẻ em do AI tạo ra đã được phát hiện trong nửa đầu năm 2025, tăng 14% so với năm trước. Điều này bao gồm việc tội phạm sử dụng các công cụ AI để tạo ra hình ảnh khiêu dâm giả mạo trẻ em nhằm mục đích tống tiền tình dục (sextortion) để kiếm tiền, cũng như tạo ra các tin nhắn thuyết phục để lôi kéo (grooming) nạn nhân.

Áp lực pháp lý và các vụ việc nghiêm trọng

Bản thiết kế của OpenAI được đưa ra trong bối cảnh công ty này chịu sự giám sát ngày càng chặt chẽ từ các nhà hoạch định chính sách, nhà giáo dục và các nhà bảo vệ quyền lợi trẻ em. Đặc biệt, điều này trở nên cấp thiết sau các sự việc đau lòng mà ở đó những cá nhân trẻ tuổi đã tự tử sau khi allegedly tương tác với các chatbot AI.

Vào tháng 11 năm ngoái, Trung tâm Luật Nạn nhân Truyền thông xã hội và Dự án Luật Công nghệ Tech Justice đã đệ trình bảy vụ kiện tại tòa án bang California. Các vụ kiện cáo buộc rằng OpenAI đã phát hành GPT-4o trước khi nó thực sự sẵn sàng. Các nguyên đơn cho rằng bản chất thao túng tâm lý của sản phẩm này đã góp phần gây ra các cái chết do tự tử và hỗ trợ tự tử sai trái. Họ dẫn chứng bốn cá nhân đã tự tử và ba người khác trải qua những ảo giác đe dọa tính mạng nghiêm trọng sau khi tương tác kéo dài với chatbot.

Hợp tác và chiến lược ba trụ cột

Bản thiết kế này được phát triển với sự hợp tác cùng Trung tâm Quốc gia về Trẻ em Mất tích và Bị Bóc lột (NCMEC) và Liên minh Tổng chưởng lý, cũng như dựa trên phản hồi từ Tổng chưởng lý bang North Carolina Jeff Jackson và Tổng chưởng lý bang Utah Derek Brown.

Công ty cho biết bản thiết kế tập trung vào ba khía cạnh chính: cập nhật luật pháp để bao gồm các tài liệu lạm dụng do AI tạo ra, hoàn thiện cơ chế báo cáo cho cơ quan thực thi pháp luật, và tích hợp các biện pháp bảo vệ phòng ngừa trực tiếp vào các hệ thống AI. Bằng cách này, OpenAI nhằm mục đích không chỉ phát hiện sớm các mối đe dọa tiềm ẩn mà còn đảm bảo thông tin có thể hành động được đến tay các điều tra viên một cách kịp thời.

Các biện pháp an toàn trước đó

Bản thiết kế an toàn trẻ em mới của OpenAI được xây dựng dựa trên các sáng kiến trước đó, bao gồm việc cập nhật các hướng dẫn tương tác với người dùng dưới 18 tuổi. Các hướng dẫn này cấm việc tạo ra nội dung không phù hợp, khuyến khích tự hại, và tránh đưa ra lời khuyên giúp những người trẻ che giấu hành vi không an toàn khỏi người chăm sóc. Gần đây, công ty cũng đã phát hành một bản thiết kế an toàn dành cho thanh thiếu niên tại Ấn Độ.