OpenAI ra mắt bộ lọc ảnh và cảnh báo ChatGPT chống nội dung CSAM

Công nghệ17 tháng 11, 2026·5 phút đọc

OpenAI công bố bộ phân loại ảnh mới có khả năng phát hiện cả nội dung lạm dụng tình dục trẻ em do AI tạo ra, đồng thời thêm màn hình cảnh báo và khóa tài khoản ChatGPT 24 giờ với người dùng cố truy cập nội dung này. Động thái diễn ra trong bối cảnh công ty đối mặt nhiều vụ kiện liên quan đến an toàn cho trẻ em.

OpenAI ra mắt bộ lọc ảnh và cảnh báo ChatGPT chống nội dung CSAM

OpenAI vừa công bố một loạt công cụ mới nhằm chống nội dung lạm dụng tình dục trẻ em (CSAM — child sexual abuse material), trong bối cảnh lo ngại về an toàn khi sử dụng các công cụ AI ngày càng tăng. Điểm đáng chú ý nhất là một bộ phân loại ảnh có khả năng nhận diện cả ảnh CSAM do AI tạo ra, cùng cơ chế cảnh báo và tạm khóa tài khoản ChatGPT trong 24 giờ.

Đây là bước tiếp nối sau "Bản thiết kế an toàn cho trẻ em" mà công ty từng công bố, nhưng lần này là các công cụ cụ thể đã đi vào vận hành.

Bộ phân loại ảnh phát hiện cả nội dung do AI tạo

OpenAI giới thiệu một bộ phân loại ảnh (image classifier) mới có thể phát hiện ảnh CSAM, bao gồm cả những hình ảnh được tạo ra bởi AI. Công ty cung cấp quyền truy cập công cụ này miễn phí qua API cho một số doanh nghiệp được chọn.

Công cụ hoạt động bằng cách tìm các dấu hiệu bạo hành về mặt hình ảnh trong những bức ảnh chưa từng xuất hiện trước đó, rồi gán một điểm số để người kiểm duyệt có hướng xử lý sơ bộ.

Theo OpenAI, bộ phân loại được phát triển cùng Trung tâm Quốc gia về Trẻ em Mất tích và Bị bóc lột (NCMEC), và công ty đang phối hợp với Tech Coalition và ROOST để chia sẻ quyền truy cập. Trong thử nghiệm ban đầu với các đối tác, công cụ đánh dấu ít hơn 48% số ảnh nhưng vẫn tìm ra đúng số lượng ảnh bạo hành như trước, qua đó giảm khối lượng công việc cho người kiểm duyệt. Ngoài ra, những ảnh bị công cụ gắn cờ có xác suất thực sự là ảnh bạo hành cao gấp đôi.

Cảnh báo và khóa tài khoản 24 giờ trên ChatGPT

OpenAI bổ sung các màn hình cảnh báo mới trong ChatGPT để ngăn người dùng truy cập nội dung tình dục hóa trẻ em. Khi người dùng đưa ra yêu cầu thuộc nhóm này, ứng dụng sẽ hiển thị thông báo, hướng dẫn họ tới các kênh hỗ trợ chuyên biệt để chấm dứt hành vi gây hại, đồng thời tạm khóa tài khoản trong 24 giờ như một lời cảnh báo.

ChatGPT vốn đã chặn nội dung CSAM và các yêu cầu liên quan. Công ty cho biết các vi phạm lặp lại có thể dẫn đến việc xóa tài khoản vĩnh viễn. Nội dung thông báo và hướng dẫn được xây dựng cùng các tổ chức, nhà nghiên cứu gồm Protect Children, Lucy Faithfull Foundation và Joel Scanlan tại Đại học Tasmania — người đã đánh giá độc lập một thử nghiệm về các thông điệp răn đe.

Hướng dẫn cho nhà phát triển và công cụ cho cơ quan điều tra

Ngoài các biện pháp phía người dùng, OpenAI công bố bộ hướng dẫn dành cho nhà phát triển sử dụng công cụ của mình để phòng ngừa, phát hiện và giúp người dùng báo cáo nội dung CSAM. Theo công ty, trong thử nghiệm ban đầu, bộ hướng dẫn này đã giúp một số nhà phát triển triển khai công cụ bảo vệ trẻ em và đăng ký báo cáo CSAM lên NCMEC.

Với các cơ quan thực thi pháp luật, OpenAI trang bị thêm tính năng hỗ trợ bởi AI như plugin chuyên dụng, công cụ điều tra và phân tích dữ liệu phức tạp, với quyền truy cập do quản trị viên chương trình cấp. Công ty cũng tổ chức đào tạo cho điều tra viên và cung cấp một hướng dẫn thực địa về cách sử dụng AI.

Bối cảnh pháp lý

Động thái này diễn ra khi OpenAI đối mặt nhiều vụ kiện cáo buộc công nghệ của họ gây hại cho người dùng, đặc biệt là trẻ em. Tổ chức phi lợi nhuận Common Sense Media từng gắn nhãn công nghệ của OpenAI là "rủi ro không thể chấp nhận" với thanh thiếu niên. Các chatbot AI khác — cụ thể là Grok — đã bị dùng để tạo hình ảnh khiêu dâm không có sự đồng thuận, kể cả với trẻ em.

Trước đó, tám bang của Mỹ đã đồng loạt đệ đơn kiện OpenAI với cáo buộc công ty đặt lợi nhuận lên trên an toàn và gây hiểu lầm về độ an toàn của ChatGPT với trẻ em. Trong 12 tháng gần đây, OpenAI đã điều chỉnh công nghệ của mình: công bố bản thiết kế an toàn, cập nhật nguyên tắc nội dung để cấm nội dung không phù hợp, tinh chỉnh mô hình nhằm ngăn tạo nội dung gây hại và phát hành phiên bản ChatGPT riêng cho thanh thiếu niên.

Góc nhìn

Với các nhà phát triển Việt Nam tích hợp mô hình của OpenAI vào sản phẩm — đặc biệt là ứng dụng có người dùng trẻ — bộ phân loại ảnh miễn phí qua API là một lớp bảo vệ đáng cân nhắc đưa vào quy trình kiểm duyệt nội dung. Việc giảm được gần một nửa số ảnh phải xem xét thủ công mà không bỏ sót ảnh bạo hành có ý nghĩa thực tế với các đội vận hành nhỏ, vốn không đủ người cho khâu kiểm duyệt thủ công.

Tuy nhiên, cần lưu ý rằng không có bộ lọc nào thay thế được trách nhiệm pháp lý của bên vận hành hệ thống. Bộ hướng dẫn dành cho nhà phát triển, cùng yêu cầu báo cáo nội dung tới NCMEC, cho thấy hướng đi rõ ràng hơn: chuẩn bị sẵn quy trình phát hiện — báo cáo — xử lý ngay từ khi thiết kế sản phẩm, thay vì bổ sung khi đã xảy ra sự cố.

Nguồn: techcrunch.com · Quy trình biên tập

Chia sẻ:FacebookX