Đề xuất gây tranh cãi: Yêu cầu giáo viên mầm non đeo camera để huấn luyện AI

Các nhà nghiên cứu tại Đại học Washington (University of Washington) gần đây đã vấp phải làn sóng phản đối dữ dội khi lên kế hoạch yêu cầu giáo viên mầm non đeo camera trong giờ làm việc. Mục tiêu của dự án là ghi lại toàn bộ tương tác từ góc nhìn thứ nhất để thu thập dữ liệu huấn luyện các mô hình trí tuệ nhân tạo (AI).

Giáo viên và camera AI

Theo tài liệu được gửi đến phụ huynh, nhóm nghiên cứu do Tiến sĩ Gail Joseph và đội ngũ Cultivate Learning dẫn đầu muốn "hiểu rõ hơn về trải nghiệm học tập hàng ngày của trẻ em" cũng như phát triển các công cụ AI có thể đánh giá chất lượng tương tác trong lớp học.

Thu thập dữ liệu và cơ chế Opt-out gây tranh cãi

Điểm gây tranh cãi lớn nhất của dự án này không nằm ở mục đích nghiên cứu, mà ở cách thức thu thập sự đồng thuận. Tài liệu ghi rõ rằng chương trình hoạt động theo cơ chế opt-out (từ chối tham gia), nghĩa là trẻ em sẽ tự động được ghi hình trừ khi phụ huynh chủ động yêu cầu không tham gia.

"Với sự cho phép của bạn, giáo viên chính của trẻ có thể đeo một chiếc camera nhỏ ghi lại góc nhìn tương đối của người dạy, và/hoặc chúng tôi có thể đặt một camera video cố định trong lớp học," tài liệu viết.

Quá trình ghi hình được dự kiến diễn ra trong tối đa 150 phút mỗi buổi, lên đến 4 lần trong một tháng. Dữ liệu video sau đó sẽ được sử dụng để "phát triển và đánh giá các mô hình AI đánh giá chất lượng tương tác trong lớp học", bao gồm cả việc sử dụng các dịch vụ AI dựa trên đám mây (cloud-based AI services) để xử lý.

Lo ngại về quyền riêng tư và rào cản ngôn ngữ

Dù các nhà nghiên cứu cam kết sẽ làm mờ khuôn mặt và che tên "bất cứ khi nào có thể", nhiều phụ huynh vẫn cảm thấy lo lắng về việc hình ảnh của con cái mình bị sử dụng cho các công cụ AI chưa rõ ràng.

Một phụ huynh chia sẻ với 404 Media rằng họ cảm thấy "bất ngờ" và lo ngại về việc "sử dụng hình ảnh của con mình trong các công cụ AI chưa biết tên và khả năng bị lạm dụng". Đáng chú ý, phụ huynh này còn chỉ ra vấn đề về sự công bằng trong việc tiếp cận thông tin.

"Nhiều gia đình trong trường chúng tôi là người nhập cư và không phải là người bản xứ sử dụng tiếng Anh, nhưng các biểu mẫu không được cung cấp bằng bất kỳ ngôn ngữ mẹ đẻ nào của họ," phụ huynh này cho biết.

Các chuyên gia về chính sách giáo dục cũng bày tỏ lo ngại về tính mơ hồ trong tài liệu. Faith Boninger, đồng giám đốc Trung tâm Chính sách Giáo dục Quốc gia (Mỹ), nhận định rằng việc thiếu thông tin chi tiết về việc dữ liệu được chia sẻ với ai, lưu trữ trong bao lâu và tài trợ bởi nguồn vốn nào là những "lỗ hổng" đáng lo ngại.

Dự án bị hủy bỏ sau phản đối

Trước sức ép từ cộng đồng phụ huynh và sự chú ý của báo chí, Đại học Washington đã quyết định hủy bỏ nghiên cứu này. Jackson Holtz, Phó Giám đốc Truyền thông của trường, xác nhận rằng họ đã "chấm dứt nghiên cứu và không còn tìm kiếm sự tham gia tại bất kỳ địa điểm nào".

Hình ảnh thông báo cho phụ huynh

Trước đó, trường đại học này từng giải thích rằng quy trình đồng thuận được thiết kế sao cho nếu chỉ một gia đình quyết định rút lui, cả lớp học đó sẽ bị loại khỏi nghiên cứu để đảm bảo quyền riêng tư. Tuy nhiên, sự rõ ràng trong thông tin truyền đạt đến phụ huynh dường như không đủ để xoa dịu những lo ngại về an toàn dữ liệu trong kỷ nguyên AI.

Vụ việc này một lần nữa đặt ra câu hỏi lớn về ranh giới giữa việc thu thập dữ liệu để cải thiện giáo dục và việc xâm phạm quyền riêng tư của người dùng, đặc biệt là khi đối tượng là trẻ nhỏ.