xAI bị kiện vì dùng hình ảnh lạm dụng trẻ em để huấn luyện mô hình Grok

xAI, công ty trí tuệ nhân tạo do Elon Musk sáng lập, đang phải đối mặt với một vụ kiện nghiêm trọng khi bị cáo buộc sử dụng hình ảnh lạm dụng tình dục trẻ em (CSAM) — bao gồm cả hình ảnh thực và do AI tạo ra — để huấn luyện mô hình Grok. Đây là một trong những vụ việc gây chấn động nhất trong lĩnh vực AI, đặt ra câu hỏi lớn về đạo đức và trách nhiệm pháp lý của các công ty công nghệ trong việc kiểm soát dữ liệu đào tạo.

Cáo buộc từ nguyên đơn

Vụ kiện được đệ trình bởi một nguyên đơn giấu tên, được gọi là "Jane Doe", vào thứ Tư vừa qua. Theo đơn kiện, Jane Doe từng là nạn nhân của nạn lạm dụng tình dục trẻ em từ những năm 2000, khi cô mới chỉ ở độ tuổi mẫu giáo. Những kẻ phạm tội đã quay phim và tạo ra các tài liệu CSAM để bán cho các đối tượng ấu dâm trên mạng.

Kể từ đó, hình ảnh của Doe đã được mã hóa và theo dõi bởi các tổ chức như Trung tâm Quốc gia về Trẻ em Mất tích và Bị bóc lột (NCMEC) và Trung tâm Bảo vệ Trẻ em Canada (CCCP) nhằm ngăn chặn việc phát tán.

Cú sốc khi phát hiện hình ảnh do AI tạo ra

Jane Doe đã đăng ký nhận thông báo từ Hệ thống Thông báo Nạn nhân của Bộ Tư pháp Mỹ để được cảnh báo mỗi khi cô có thể trở thành nạn nhân trong một cuộc điều tra mới. Tuy nhiên, cô không khỏi bàng hoàng khi CCCP thông báo rằng họ đã phát hiện ra CSAM do AI tạo ra trên nền tảng xAI, trong đó có hình ảnh mô phỏng khuôn mặt của cô.

Theo đơn kiện, các thông điệp trên diễn đàn trực tuyến đã được tìm thấy "giữa những kẻ phạm tội trò chuyện về việc tạo ra CSAM do AI tạo ra của Nguyên đơn và các nạn nhân khác của CSAM." Điều này không chỉ tái gây tổn thương tâm lý nặng nề cho Doe mà còn cho thấy một vấn đề hệ thống nghiêm trọng trong cách xAI thu thập và xử lý dữ liệu.

Vấn đề lan rộng trong ngành AI

Vụ kiện này không chỉ nhắm vào xAI mà còn phản ánh một cuộc khủng hoảng lớn hơn trong ngành công nghiệp AI. Các cơ quan quản lý và tòa án đang ngày càng chú ý đến việc làm thế nào các mô hình ngôn ngữ lớn (LLM) được huấn luyện trên dữ liệu không được kiểm soát từ internet, bao gồm cả những nội dung bất hợp pháp.

Một số người dùng Grok thậm chí đã bị bắt giữ vì sử dụng tính năng tạo hình ảnh của mô hình này để tạo ra nội dung khiêu dâm trẻ em.

Điều này cho thấy vấn đề không chỉ dừng lại ở khâu huấn luyện mà còn ở cách người dùng khai thác các công cụ AI để tạo ra nội dung vi phạm pháp luật.

Trách nhiệm của các công ty AI

Vụ việc đặt ra câu hỏi lớn về trách nhiệm của các công ty AI trong việc:

• Kiểm soát dữ liệu đầu vào: Làm thế nào để đảm bảo dữ liệu huấn luyện không chứa CSAM hoặc các nội dung bất hợp pháp khác?
• Giám sát đầu ra: Cần có cơ chế mạnh mẽ để ngăn chặn việc mô hình tạo ra nội dung độc hại.
• Hợp tác với cơ quan chức năng: Các công ty cần chủ động làm việc với các tổ chức như NCMEC và CCCP để xử lý kịp thời các vi phạm.

Tác động đến cộng đồng AI tại Việt Nam

Mặc dù vụ việc xảy ra tại Mỹ, nó là bài học quan trọng cho cộng đồng nghiên cứu và phát triển AI tại Việt Nam. Khi các mô hình AI ngày càng trở nên phổ biến, việc xây dựng quy trình kiểm soát dữ liệu và đạo đức AI là điều không thể xem nhẹ.

Các doanh nghiệp và nhà phát triển AI tại Việt Nam nên:

• Áp dụng các tiêu chuẩn kiểm duyệt nội dung nghiêm ngặt.
• Xây dựng cơ chế báo cáo và xử lý vi phạm minh bạch.
• Tăng cường hợp tác với các tổ chức bảo vệ trẻ em trong và ngoài nước.

Kết luận

Vụ kiện chống lại xAI là một hồi chuông cảnh tỉnh về trách nhiệm xã hội của các tập đoàn công nghệ lớn. Khi AI ngày càng thâm nhập sâu vào đời sống, việc đảm bảo các mô hình được phát triển một cách có đạo đức và hợp pháp không chỉ là nghĩa vụ pháp lý mà còn là nghĩa vụ đạo đức đối với toàn xã hội, đặc biệt là bảo vệ những đối tượng dễ bị tổn thương nhất.