Microsoft cam kết áp dụng quy tắc riêng tư AI toàn diện cho học sinh

Hàng triệu học sinh mỗi ngày tìm đến các chatbot AI để được hỗ trợ bài tập, chia sẻ cảm xúc và xin lời khuyên cá nhân — thường mà không hề biết dữ liệu cuộc trò chuyện và thông tin cá nhân của mình đang đi về đâu.

Cách dữ liệu này được sử dụng — cũng như vai trò của nhà trường trong việc bảo vệ nó — đang trở thành mối lo ngại ngày càng lớn đối với giáo viên, phụ huynh và học sinh khi trí tuệ nhân tạo trở thành một phần hiện diện khắp nơi trong ngày học, gắn liền với nhiều công cụ lớp học mà học sinh bắt buộc phải sử dụng.

Biểu trưng SecurityWeek

Áp lực từ các học khu lớn nhất nước Mỹ

Khi năm học mới bắt đầu, hai học khu lớn nhất nước Mỹ là New York City và Los Angeles đã tuyên bố tạm dừng việc cho học sinh sử dụng AI trong một năm, trong lúc họ nghiên cứu cách tích hợp công nghệ này vào giáo dục một cách phù hợp nhất.

Trước làn sóng phản đối ngày càng tăng đối với AI và thời gian sử dụng màn hình, Microsoft tuần trước thông báo đã đồng ý áp dụng các rào chắn bảo vệ và tiêu chuẩn quyền riêng tư cho AI của mình trong trường học, theo kết quả đàm phán với Liên đoàn Giáo viên Hoa Kỳ (AFT) — công đoàn giáo viên lớn thứ hai cả nước.

Các điều khoản an toàn trong thỏa thuận là có ý nghĩa, nhưng tiêu chuẩn này chỉ thực sự hiệu quả nếu tất cả các công ty AI, đặc biệt là các ông lớn công nghệ, cùng tham gia ký kết, theo Josh Golin, giám đốc điều hành của tổ chức phi lợi nhuận về an toàn trực tuyến Fairplay. Ông cho rằng thỏa thuận này lảng tránh câu hỏi liệu các sản phẩm AI có thuộc về lớp học hay không, hoặc nên được giới thiệu ở độ tuổi nào.

"Tôi lo ngại rằng một khuôn khổ được chú ý như thế này sẽ bị hiểu sai và các trường sẽ nghĩ rằng: 'Nếu họ làm tốt về quyền riêng tư dữ liệu và an toàn, thì nghĩa là chúng ta nên dùng công cụ này'", Golin nói.

AFT cho biết thỏa thuận này — có tính ràng buộc pháp lý và yêu cầu kiểm toán bên thứ ba để đảm bảo tuân thủ — có thể thiết lập một chuẩn mực cho toàn ngành. Hai công ty AI hàng đầu khác là OpenAI và Anthropic cũng cho biết đang đàm phán các hiệp định an toàn và quyền riêng tư với AFT. Nhưng Google, nhà cung cấp công nghệ giáo dục thống trị cho các trường học Mỹ, vẫn chưa cho biết liệu có kế hoạch đưa ra các biện pháp bảo vệ tương tự hay không.

Thỏa thuận giới hạn việc dùng dữ liệu học sinh để huấn luyện AI

Trong khuôn khổ thỏa thuận toàn diện này, Microsoft tuyên bố sẽ không sử dụng dữ liệu của học sinh hay giáo viên để huấn luyện các hệ thống AI, ngoại trừ một ngoại lệ hẹp cho dữ liệu có thể giúp bảo vệ học sinh. Công ty cho biết dữ liệu mà mình thu thập không thể bị bán, sử dụng cho quảng cáo hay dùng để phát triển sản phẩm.

Thỏa thuận cấm mọi hình thức sử dụng các trợ lý AI đồng hành hoặc các tính năng "được thiết kế để nuôi dưỡng sự gắn bó cảm xúc hoặc phụ thuộc", cũng như việc giữ chân học sinh lâu hơn mức một nhiệm vụ học tập đòi hỏi. Thỏa thuận còn bao gồm một loạt biện pháp kiểm toán và minh bạch, yêu cầu công ty phải công khai với các gia đình, bằng ngôn ngữ dễ hiểu, cách các công cụ của mình hoạt động.

"Tiêu chuẩn này đặt ra mức cao cho quyền riêng tư trẻ em và an toàn AI, và chúng tôi sẽ mở rộng thỏa thuận này tới mọi học khu trên toàn quốc", Brad Smith, phó chủ tịch kiêm chủ tịch của Microsoft, cho biết trong một tuyên bố. Ông nói các tiêu chuẩn sẽ áp dụng cho tất cả trường học mà Microsoft có hợp đồng, bắt đầu từ ngày 1 tháng 11.

Chủ tịch AFT Randi Weingarten gọi thỏa thuận này là "đầu tiên thuộc loại này" và là bước đi quan trọng để thiết lập chuẩn mực ngành trong bối cảnh thiếu vắng luật pháp liên bang và tiểu bang về AI trong trường học.

"Chúng tôi muốn phụ huynh nắm quyền kiểm soát việc học của con mình. Chúng tôi muốn các nhà giáo dục kiểm soát việc học của học sinh, chứ không phải các công ty công nghệ giáo dục. Và đó chính là điều mà thỏa thuận này hướng tới", Weingarten nói.

Bà phát biểu tại một cuộc họp báo chung với Smith tại trụ sở của United Federation of Teachers, chi nhánh AFT tại New York City. Trụ sở này cũng là nơi đặt Học viện Quốc gia về Giảng dạy AI cho giáo viên của AFT, được thành lập cách đây một năm với khoản tài trợ 23 triệu USD từ Microsoft, OpenAI và Anthropic.

New York và Los Angeles siết chặt kiểm toán công cụ AI

Bên cạnh lệnh tạm dừng AI kéo dài một năm, hệ thống trường học của New York City và Los Angeles cũng lên kế hoạch kiểm toán toàn diện các hợp đồng công nghệ giáo dục và công cụ AI, tập trung vào quyền riêng tư dữ liệu, tính minh bạch và trách nhiệm giải trình. Lệnh cấm tại New York City áp dụng cho toàn bộ học sinh tiểu học và trung học cơ sở, trong khi ở Los Angeles lệnh này kéo dài đến hết bậc trung học phổ thông.

Công đoàn giáo viên cũng đã tiếp cận Google và các công ty AI. Weingarten cho biết bà đã liên hệ trực tiếp với Google để thông báo về thỏa thuận trước khi công bố, với hy vọng công ty sẽ trở thành một bên ký kết.

Công ty này chưa phản hồi yêu cầu bình luận của hãng tin AP về việc liệu có kế hoạch đưa ra các biện pháp bảo vệ tương tự hay không.

"Liệu Google có chấp nhận khuôn khổ này không? Đó là một câu hỏi lớn", Golin, giám đốc tổ chức phi lợi nhuận về an toàn trực tuyến, nhận định. Ông lưu ý rằng các trường học còn sử dụng hàng nghìn sản phẩm công nghệ giáo dục do AI điều khiển từ các công ty nhỏ hơn.

Google từng rơi vào tâm điểm tranh cãi về AI trong trường học khi vào tháng 8 họ thông báo đã bật chatbot Gemini cho nhiều học sinh từ mẫu giáo đến lớp 12 đang dùng Google Classroom, hệ thống quản lý học tập của mình. Công ty cho biết Google Classroom được 150 triệu giáo viên và học sinh trên toàn thế giới sử dụng.

Các nhà phê bình chỉ trích động thái của Google là sự leo thang trong cuộc đua giữa các ông lớn công nghệ nhằm thâm nhập trường học và chinh phục thế hệ người dùng AI tiếp theo. Việc bổ sung AI vào Classroom chỉ ảnh hưởng đến các trường cho phép học sinh truy cập ứng dụng Gemini hoặc Gemini Notebook, nhưng đây là bước chuyển lớn. Trước tháng 8, Google chỉ cho phép bật Gemini đối với học sinh từ 18 tuổi trở lên.

Weingarten nói bà cũng đang đàm phán với OpenAI và Anthropic, hai công ty đều đưa ra lời khen ngợi công khai dành cho thỏa thuận.

OpenAI, nhà sản xuất ChatGPT, gọi đây là "cột mốc quan trọng cho an toàn và quyền riêng tư AI trong trường học". Công ty cho biết đang làm việc với AFT "và mong muốn hoàn tất thỏa thuận của riêng mình". Anthropic, nhà sản xuất Claude, tuyên bố: "Chúng tôi hoan nghênh mọi nỗ lực thúc đẩy việc sử dụng AI có trách nhiệm trong giáo dục", đồng thời cho biết đang hợp tác với AFT để định hình "một chuẩn mực vàng cho an toàn và quyền riêng tư".

Tiêu chuẩn mới chuyển gánh nặng bảo vệ quyền riêng tư về phía doanh nghiệp

Các chuyên gia về quyền riêng tư dữ liệu cho rằng tiêu chuẩn mới có thể giúp định hình cuộc đối thoại giữa nhà trường và các nhà cung cấp AI, bất kể trường đó có phải khách hàng của Microsoft hay không.

"Điều tôi kỳ vọng là nó giảm bớt áp lực cho từng học khu trong việc đàm phán với các công ty công nghệ lớn", Elizabeth Laird, giám đốc tại Trung tâm Dân chủ và Công nghệ, nhận định. Cho đến nay, sức mạnh đàm phán của các trường để giành được biện pháp bảo vệ quyền riêng tư từ các hãng công nghệ thường phụ thuộc vào tiềm lực tài chính. "Tôi nghĩ tiêu chuẩn này là bước tiến giúp giảm bớt tình trạng bất bình đẳng kiểu này giữa các học khu."

Laird khen ngợi thỏa thuận đã vượt "xa hơn" những gì luật pháp yêu cầu đối với các nhà cung cấp làm việc với trường học. Chẳng hạn, Microsoft cam kết không sử dụng dữ liệu nhạy cảm mà nhiều công ty khai thác, như thông tin về giới tính, chủng tộc, độ tuổi, mã bưu chính — những yếu tố có thể dùng để nhận diện một người ngay cả khi đã xóa tên của họ.

Nhưng cho đến khi các bên khác cùng ký kết, Laird nói, thỏa thuận này càng làm nổi bật việc thiết lập tiêu chuẩn AI khó khăn đến mức nào khi không có luật pháp. Nó cũng nhấn mạnh rằng gánh nặng bảo vệ quyền riêng tư của học sinh nên thuộc về các công ty công nghệ — chứ không phải phụ huynh, học sinh hay nhà trường.

Smith của Microsoft thừa nhận các công ty công nghệ đã chậm chạp trong việc chấp nhận điều đó.

"Tất cả chúng ta đều biết có những cuộc thảo luận và tranh luận quan trọng trên khắp cả nước về việc khi nào nên dùng AI trong trường học, dùng như thế nào, vì mục đích gì", Smith nói. "Vai trò của chúng tôi, thậm chí là trách nhiệm của chúng tôi, là đảm bảo AI được cung cấp dưới hình thức mà giáo viên, học sinh và phụ huynh có thể tin tưởng."