Trẻ em học ngôn ngữ hiệu quả hơn AI, và khoa học chưa hiểu vì sao
Một đứa trẻ học ngôn ngữ mẹ đẻ chỉ với khoảng 10 đến 100 triệu từ, trong khi các mô hình AI lớn cần tới hàng nghìn tỷ token. Khoảng cách dữ liệu khổng lồ này đặt ra câu hỏi lớn cho cả nghiên cứu AI lẫn khoa học nhận thức, và các cuộc thi như BabyLM đang cố tìm lời giải.

Con người nói chuyện với nhau ít nhất 100.000 năm nay. Trong suốt thời gian đó, chỉ có một thứ học được ngôn ngữ người đến mức trôi chảy hoàn hảo: một đứa trẻ. Giờ đã có thứ thứ hai.
Bốn năm sau khi ChatGPT ra mắt, việc trò chuyện tự nhiên với điện thoại hay máy tính đã thành chuyện bình thường. Các mô hình ngôn ngữ lớn (LLM) như Claude, DeepSeek hay các mô hình GPT của OpenAI đủ lưu loát để giả làm người. Nhưng nhìn vào bên trong, có một vấn đề: dạy máy tính dùng ngôn ngữ người vẫn đòi hỏi lượng dữ liệu phi thường.
Minh họa khoảng cách dữ liệu giữa trẻ em và mô hình AI
Một mô hình có thể xử lý lượng từ lớn gấp 100.000 lần số từ một người gặp trong cả quá trình học tiếng mẹ đẻ. Con số đó cũng vượt xa lượng từ trẻ nghe được trước sinh nhật đầu tiên, thời điểm trẻ thường bắt đầu nắm được ngôn ngữ.
"Theo tiến độ gần đây thật đáng kinh ngạc," Michael C. Frank, nhà khoa học nhận thức tại Đại học Stanford, nói về LLM. "Nhưng chúng ta vẫn phải đốn cả một khu rừng và thu thập toàn bộ tri thức của nhân loại để tái tạo cột mốc diễn ra ngay trong phòng khách nhà mình chỉ trong một năm."
Khoảng cách hiệu quả dữ liệu
Khoảng cách giữa trẻ em và máy móc được gọi là khoảng cách hiệu quả dữ liệu (data efficiency gap). Nó đặt câu hỏi hấp dẫn cho khoa học nhận thức và thách thức cho những người xây dựng mô hình AI: vì sao trẻ em vẫn vượt qua những cỗ máy ngôn ngữ tinh vi nhất từng được tạo ra?
Trong thập kỷ qua, mô hình ngôn ngữ chủ yếu tiến bộ nhờ phình to. Llama 3.1 của Meta, phát hành hai năm trước, đã xử lý 15.000 tỷ token trong giai đoạn tiền huấn luyện (pretraining), bước chính trước khi tinh chỉnh cho một tác vụ cụ thể. Các mô hình tiên tiến có thể đang tiền huấn luyện với lượng dữ liệu gấp 10 lần, theo Ethan Gotlieb Wilcox, nhà khoa học nhận thức và ngôn ngữ học tại Đại học Georgetown. Nhưng internet thì có hạn, và có thể ngay từ thập niên 2030, nguồn dữ liệu dễ khai thác sẽ cạn.
Trẻ em cho thấy có thể học nhiều hơn với ít hơn, ít hơn rất nhiều. Một đứa trẻ lớn lên trong gia đình giàu ngôn ngữ có thể nghe khoảng 100 triệu từ. Cộng thêm việc biết đọc biết viết, con số có thể lên tới 300 triệu từ khi 20 tuổi.
Khác biệt về quy mô chỉ có thể diễn tả bằng phép so sánh. Wilcox nói Claude đã "thấy" lượng ngôn ngữ mà cả một thành phố trải qua trong một thế hệ. In toàn bộ số từ dùng để huấn luyện một LLM hiện đại ra giấy, chồng giấy sẽ vượt qua Trạm Vũ trụ Quốc tế. Trong khi đó, 100 triệu từ của một đứa trẻ chỉ cao khoảng 20 mét.
Vì sao trẻ học được ngôn ngữ?
Hầu hết chúng ta chỉ thấy ngôn ngữ khó khi học ngoại ngữ sau tuổi thơ. Thì quá khứ hoàn thành, âm rung, nguyên âm mũi, cách sở hữu, cụm động từ, cái bàn giống đực và cái thìa giống cái. Nhưng học tiếng mẹ đẻ thì thường dễ dàng. Trẻ mới biết đi thường bắt đầu nói câu đúng ngữ pháp sau khi nghe khoảng 10 triệu từ, cao nhất là 30 triệu từ.
"Thật sự kỳ diệu," Frank nói. "Nếu huấn luyện GPT-2 với 30 triệu từ, bạn chỉ có một cỗ máy tạo ra vô nghĩa, không phải một đứa trẻ."
Cú pháp ngôn ngữ người gồm các cấu trúc lồng nhau, đệ quy, cho phép diễn đạt vô số ý tưởng từ một vốn từ hữu hạn. Đây tưởng như là vấn đề quá sức với trẻ. Vậy mà trẻ vẫn làm được.
Năm 1950, nhà ngôn ngữ học MIT Noam Chomsky đưa ra một lời giải: trẻ sinh ra đã có sẵn kiến thức ngữ pháp bẩm sinh. Ông phản bác quan điểm của nhà tâm lý học B.F. Skinner, cho rằng ngôn ngữ học hoàn toàn từ môi trường. Chomsky dùng lập luận "sự nghèo nàn của kích thích": ngôn ngữ quá phức tạp, còn tiếp xúc của trẻ quá ít để học hoàn toàn từ trải nghiệm.
Quan điểm của Chomsky thống trị ngôn ngữ học Mỹ nhiều thập kỷ và ảnh hưởng lớn tới khoa học máy tính thập niên 1950, 1960. Các nhà nghiên cứu AI Mỹ phần lớn theo hướng dựa trên quy tắc, lập trình ngữ pháp trực tiếp vào chương trình. Cách tiếp cận này thất bại trong việc tạo ra mô hình xử lý ngôn ngữ người ở quy mô lớn, và mở ra "mùa đông AI" từ thập niên 1970.
Mạng nơ-ron trở lại từ thập niên 2010, khi phần cứng rẻ, mạnh hơn và internet mở rộng. Năm 2018 và 2019, BERT và GPT-2 xây trên kiến trúc transformer, huấn luyện với hàng tỷ token, cho thấy học từ lượng dữ liệu khổng lồ có thể hiệu quả với ngôn ngữ. Năm 2022, ChatGPT khiến tất cả thấy rõ điều này.
LLM không phải bộ não. Chúng là những cỗ máy học thống kê mạnh mẽ, học mẫu một cách thuần túy, không có các đặc điểm sinh học của vỏ não người. Đây đúng là thứ mà một nhà ngôn ngữ học tạo sinh hai thập kỷ trước cho rằng không thể học được ngôn ngữ. Vậy mà chúng viết sonnet và vượt qua các bài kiểm tra ngữ pháp.
Minh họa mô hình ngôn ngữ và não bộ con người
BabyLM và tham vọng mô hình cỡ em bé
Alex Warstadt, nhà ngôn ngữ học và khoa học dữ liệu tại Đại học California San Diego, nhớ thời BERT và GPT-2 mới ra là giai đoạn sôi động. Ông thấy LLM có triển vọng: một mô hình khoa học không cần hoàn hảo để có ích. Tháng 8/2022, Warstadt đăng một loạt tweet lập luận rằng mạng nơ-ron có thể là mô hình hữu ích cho việc nghiên cứu tiếp thu ngôn ngữ. Sau khi trao đổi với nhà nghiên cứu AI Leshem Choshen, ông đề xuất ý tưởng về BabyLM, cuộc thi thường niên tổ chức bởi Warstadt, Choshen và nhiều nhà nghiên cứu khác.
Bốn năm sau, BabyLM đã có thêm hội thảo và các nhánh phụ, gồm cuộc thi mô hình cỡ em bé huấn luyện bằng tiếng Trung. Sự kiện chính thách thức các nhóm huấn luyện mô hình ngôn ngữ trên kho ngữ liệu "hợp lý về mặt phát triển" chỉ 100 triệu từ, hoặc 10 triệu từ cho nhánh trẻ mới biết đi. Dữ liệu lấy từ sách truyện, hội thoại, phụ đề phim, Wikipedia tiếng Anh đơn giản, Wikipedia thông thường và bản ghi âm lời nói hướng tới trẻ em.
Mô hình được đánh giá bằng các bài kiểm tra ngữ pháp mà giới tâm lý ngôn ngữ dùng với người. Một dạng bài so sánh câu đúng và câu sai, như "The keys to the cabinet are on the table" và "The keys to the cabinet is on the table". Với người, sự bất ngờ khi gặp "is" có thể đo qua chuyển động mắt. Với mô hình, người ta dùng thước đo có tên surprisal, đánh giá mức độ khó đoán của câu.
Cuộc thi đã thách thức một số giả định, như hiệu quả của học theo chương trình (curriculum learning), tức bắt đầu bằng dữ liệu đơn giản rồi tăng dần độ phức tạp. Đây là cách tiếp cận phổ biến nhất ở vòng đầu BabyLM, nhưng không hiệu quả như kỳ vọng.
"Với các transformer, dường như không cần sắp xếp dữ liệu theo cách đó để học hiệu quả," Aaron Mueller, nhà khoa học máy tính tại Đại học Boston, một trong các nhà tổ chức, nói.
Trớ trêu là các mô hình BabyLM tốt nhất lại không lấy cảm hứng từ trẻ em. Nhà vô địch năm 2024, GPT-BERT, là transformer huấn luyện một phần dự đoán token tiếp theo, một phần hoạt động như BERT, mô hình ngôn ngữ "che khuất" điền vào chỗ trống. Khi tiền huấn luyện với khoảng 100 triệu từ, GPT-BERT vượt qua Llama 2 70B của Meta, mô hình tiền huấn luyện với lượng dữ liệu gấp khoảng 15.000 lần, ở một trong các bài đánh giá BabyLM.
Dù vậy, mô hình BabyLM chưa cùng đẳng cấp với LLM thương mại. Nhiều mô hình không tạo được văn bản, và GPT-BERT cũng sẽ khá cồng kềnh so với mô hình hiện đại. Cách chúng học vẫn chưa giống trẻ em: trẻ không chỉ tiếp nhận văn bản mà còn học qua giác quan, đặc biệt là thị giác và thính giác.
Học qua mắt và tai trẻ
Michael Frank bắt đầu phòng thí nghiệm tại Stanford khoảng 15 năm trước, khi giới khoa học chưa hiểu rõ trẻ em trải nghiệm thế giới thế nào. Các nhà tâm lý phát triển bắt đầu nhìn vào cuộc sống của trẻ qua camera gắn đầu.
Frank cùng bốn đồng nghiệp tuyển ba em bé, đều là con của các nhà tâm lý học, cho đeo camera gắn đầu trong dự án SAYCam. Họ ghi hai giờ mỗi tuần trong cuộc sống của mỗi bé, từ 6 tháng đến 2 tuổi rưỡi.
Năm 2024, Brenden Lake, nhà khoa học nhận thức tại Princeton, cùng cộng sự công bố mô hình huấn luyện trên 61 giờ dữ liệu SAYCam thô. Mô hình học nhận diện đồ vật và gắn chúng với từ ngữ mà không cần bất kỳ thiên kiến nào mà nhiều lý thuyết tâm lý phát triển cho là cần thiết. Dù vậy, Lake thừa nhận "không thể tạo ra một đứa trẻ hai tuổi" từ quá trình huấn luyện đó.
Uri Hasson, nhà thần kinh học tại Princeton, dành 5 năm ghi lại 1.000 ngày đầu đời của 17 trẻ em. Các gia đình lắp camera và micro ở mọi khu vực sinh hoạt, trừ phòng ngủ và phòng tắm, ghi 12 giờ mỗi ngày gần như mỗi ngày. Ông nói bộ dữ liệu này chỉ khả thi nhờ công cụ AI mới để chép lời và phân tích video. "Lần đầu tiên, chúng ta có dữ liệu đầu vào," Hasson nói.
Những thành phần còn thiếu
Huấn luyện mô hình trên video vẫn khó. Mô hình văn bản trở nên lưu loát sau khi nuốt lượng dữ liệu khổng lồ, còn mô hình đa phương thức huấn luyện trên video của trẻ thì chưa. Mô hình của Lake chỉ học được các từ đơn giản như "ball" và "cat". Các nỗ lực bổ sung dữ liệu thị giác vào văn bản chưa hiệu quả với các nhóm dự thi BabyLM.
Alison Gopnik, nhà tâm lý học phát triển tại Berkeley, cho rằng vấn đề có thể là trẻ không chỉ ngồi nhìn thế giới trôi qua. "Trẻ chủ động khám phá, nghĩa là chúng chủ động chọn dữ liệu của mình," bà nói. Nghiên cứu của nhóm Gopnik cho thấy trò chơi của trẻ thực chất là cách học quan hệ nhân quả hiệu quả.
Elizabeth Bonawitz, nhà khoa học nhận thức phát triển tại Harvard, chỉ ra trẻ biết mình chưa biết gì và có động lực lấp đầy khoảng trống. Đời sống xã hội cũng giúp trẻ học: trẻ hiểu thông tin khác đi khi biết người lớn đang cố dạy mình điều gì đó. Điều này rất khác với cách mô hình học: thụ động và tách biệt.
Năm ngoái, BabyLM mở cửa cho các mô hình học bằng cách tương tác với mô hình khác. Nhưng các mô hình có yếu tố xã hội không vượt trội hơn mô hình chuẩn.
Trong các phòng thí nghiệm lớn, Meta có vẻ quan tâm nhất đến việc học hỏi từ trẻ em, cụ thể là huấn luyện mô hình từ video. Hai nhà nghiên cứu Meta tham gia nhánh đa phương thức của BabyLM. Các nhà khoa học Meta, cùng các nhà nghiên cứu học thuật trong đó có Frank, mới công bố bộ đánh giá và thử thách huấn luyện mô hình trên video camera gắn đầu của trẻ. Frank cũng cho biết một startup AI ở chế độ kín tiếng tên Flapping Airplanes quan tâm đến nghiên cứu của ông.
Gopnik cho rằng các phòng thí nghiệm tiên phong chưa vội học mẹo từ trẻ. Bà nghĩ thế hệ AI tiếp theo, thứ thay thế transformer, mới rút bài học từ tâm lý học phát triển.
Góc nhìn
Với nhóm kỹ thuật ở Việt Nam, bài toán này có ý nghĩa thực tế. Huấn luyện mô hình ngôn ngữ cho tiếng Việt vốn đắt vì dữ liệu sạch ít hơn tiếng Anh nhiều lần. Nếu tìm được cách học hiệu quả với ít dữ liệu hơn, các nhóm trong nước sẽ dễ xây mô hình tốt mà không cần hạ tầng tính toán khổng lồ. Các nhánh BabyLM dành cho ngôn ngữ ít dữ liệu, như tiếng Czech, tiếng Na Uy hay tiếng Sami, là kinh nghiệm đáng theo dõi.
Hướng huấn luyện đa phương thức từ video và dữ liệu giác quan cũng mở ra cách tiếp cận mới. Nhưng các kết quả hiện tại cho thấy chưa có công thức sẵn. Các nhóm nên bám vào dữ liệu tiếng Việt chất lượng, gắn nhãn cẩn thận và thử nghiệm trên bộ đánh giá nhỏ, thay vì chờ một kiến trúc hoàn hảo xuất hiện.
Nguồn: technologyreview.com · Quy trình biên tập
Bài viết liên quan

LittleLearner: Khi mô hình ngôn ngữ chỉ được 'học' kiến thức lớp 5 sẽ ra sao?
16 tháng 8, 2026

Công nghệ
Tại sao AI thay thế một số công việc nhanh hơn những ngành khác: Vai trò của dữ liệu
08 tháng 4, 2026

AI & ML
Nghiên cứu cảnh báo mô hình AI có thể lây lan thiên kiến dù dữ liệu đã làm sạch
15 tháng 4, 2026