Nghiên cứu MIT: Mô hình AI càng lớn càng 'mất trí nhớ' về nguồn dữ liệu gốc

Quá trình huấn luyện một mô hình AI trở thành một nghịch lý ở quy mô lớn: nó càng nhớ nhiều thì càng ít nhớ về nguồn gốc của những ký ức đó. Các nhà khoa học máy tính tại MIT đã đi tìm cách quy kết đầu ra của mô hình AI về dữ liệu huấn luyện cụ thể, nhưng thay vào đó, họ phát hiện ra một hiện tượng khiến việc quản lý AI trở nên khó khăn hơn.

Phát hiện gây sốc về 'suy giảm khả năng quy kết'

Các tác giả Zheng Dai và David K Gifford, thuộc Phòng thí nghiệm Khoa học Máy tính & Trí tuệ Nhân tạo (CSAIL) của MIT, đã công bố nghiên cứu trên tạp chí Nature Communications với tiêu đề "Đầu ra của Mô hình Diffusion Tổng hợp thường Không thể Quy kết" (Outputs of Generative Diffusion Models are Often Unattributable). Nghiên cứu chỉ ra rằng việc quy kết đầu ra của mô hình về một đầu vào cụ thể trở nên khó khăn hơn khi mô hình ngày càng lớn.

"Chúng tôi chỉ ra rằng sự quy kết, được đặc trưng như nhiệm vụ xác định một phần dữ liệu huấn luyện chịu trách nhiệm cho một mẫu được tạo ra, có thể trở nên bất khả thi nếu mô hình được huấn luyện trên một kho dữ liệu đủ lớn." — Trích nghiên cứu của MIT

Hiện tượng này được gọi là "sự suy giảm khả năng quy kết" (attribution decay). Các nhà nghiên cứu đã thử nghiệm bằng cách loại bỏ dữ liệu cụ thể thông qua phương pháp "cắt bỏ" (ablation). Kết quả cho thấy: với các mô hình rất lớn, bạn có thể loại bỏ toàn bộ tác phẩm của Leonardo Da Vinci khỏi dữ liệu huấn luyện, nhưng mô hình vẫn có thể tái tạo hình ảnh hoặc phong cách đó một cách dễ dàng.

Bối cảnh pháp lý: Các vụ kiện bản quyền đình đám

Phát hiện này xuất hiện trong bối cảnh các mô hình diffusion như Midjourney và Stable Diffusion đang vướng vào nhiều vụ kiện bản quyền. Nổi bật nhất là vụ kiện Andersen et al. v. Stability AI Ltd năm 2023, nơi các nghệ sĩ cáo buộc Midjourney đã "thu thập hình ảnh gắn với tên các nghệ sĩ cụ thể nhằm mục đích để mô hình của họ bắt chước nội dung biểu cảm của những nghệ sĩ đó."

Khả năng quy kết đầu ra mô hình về dữ liệu huấn luyện được coi là chìa khóa cho nhiều ứng dụng quan trọng, bao gồm:

• Machine unlearning (học máy có thể xóa bỏ)
• Data poisoning (phát hiện nhiễm độc dữ liệu)
• Model interpretability (khả năng giải thích mô hình)
• Fairness và privacy (công bằng và quyền riêng tư)

Ý nghĩa đối với bản quyền và sáng tạo

Trong thông cáo báo chí của MIT, Gifford lập luận rằng phát hiện này cho thấy các mô hình AI thực sự "sáng tạo" theo nghĩa chúng không chỉ đơn thuần sao chép dữ liệu huấn luyện. Điều này đặt ra những câu hỏi pháp lý vô cùng quan trọng:

• Về fair use (sử dụng hợp lý) trong luật bản quyền
• Liệu đầu ra của AI có thể được coi là tác phẩm mới đủ điều kiện bảo hộ bản quyền?
• Làm thế nào để đền bù cho tác giả khi đầu ra không thể quy kết cho bất kỳ nguồn cụ thể nào trên internet?

"Nếu những đầu ra đó không liên quan gì đến bất kỳ mẫu dữ liệu huấn luyện riêng lẻ nào, điều đó đặt ra câu hỏi về fair use, về việc liệu các đầu ra đó có thể tự bản thân chúng được bảo hộ bản quyền như tác phẩm mới hay không, và về cách các tác giả được đền bù khi thứ tạo ra từ mô hình không thể quy kết cho bất cứ thứ gì trên internet." — David K Gifford, MIT CSAIL

Nghịch lý: Trốn tránh trách nhiệm bằng quy mô?

Gifford cho rằng khả năng kiểm tra liệu một đầu ra có phải là dẫn xuất hay không tạo ra nghĩa vụ cho các công ty phải chứng minh sản phẩm của họ không thể quy kết về một nguồn cụ thể. Tuy nhiên, nghiên cứu cũng hé lộ một chiến lược trốn tránh trách nhiệm: hãy làm cho mô hình đủ lớn để không có đầu ra nào có thể bị quy kết cho bất kỳ đầu vào cụ thể nào.

James Grimmelmann, giáo sư luật tại Trường Luật Cornell, nhận định trong một tuyên bố:

"Nếu sự quy kết hoạt động, nó sẽ cho chúng ta biết một cách đáng tin cậy liệu sự tương đồng giữa đầu ra của mô hình và một tác phẩm được bảo hộ là do sao chép hay trùng hợp. Nhưng bài nghiên cứu này cung cấp lý do để nghĩ rằng sự quy kết sẽ thất bại đối với các mô hình thú vị. Thay vào đó, các nhà công nghệ và tòa án sẽ cần phải dùng đến các phương pháp khác để đánh giá việc sao chép."

Bối cảnh tại Việt Nam

Tại Việt Nam, khi các công cụ AI tạo sinh như Midjourney, Stable Diffusion hay các nền tảng nội địa đang ngày càng phổ biến, phát hiện này mang ý nghĩa đặc biệt quan trọng. Các nhà sáng tạo nội dung Việt cần hiểu rằng việc bảo vệ tác phẩm của mình trước AI không chỉ đơn thuần dựa vào việc phát hiện sao chép trực tiếp. Đồng thời, các startup AI trong nước cũng cần cân nhắc kỹ lưỡng về trách nhiệm pháp lý khi xây dựng mô hình với quy mô dữ liệu lớn — một chiến lược tưởng chừng an toàn về mặt kỹ thuật nhưng thực chất có thể tạo ra những rủi ro pháp lý không lường trước được.

Kết luận

Nghiên cứu này không chỉ là một phát hiện học thuật mà còn là một hồi chuông cảnh tỉnh cho toàn ngành AI. Việc thiếu khả năng quy kết khiến cho khái niệm "đền bù cho tác giả" trở nên gần như bất khả thi trong thực tế. Khi các mô hình ngày càng lớn và dữ liệu ngày càng nhiều, ranh giới giữa "sáng tạo" và "sao chép" ngày càng trở nên mong manh hơn bao giờ hết — một thách thức lớn cho cả kỹ thuật lẫn luật pháp trong thập kỷ tới.