Tuyên bố gây chấn động: Mạng nơ-ron có thể dễ hiểu hơn chúng ta tưởng

"Tôi nghĩ mình có tin tốt về bản chất của mạng nơ-ron." Chỉ với câu nói đầy lạc quan ấy, Nick Cammarata — nhà nghiên cứu tại startup AI Goodfire — đã khởi động một bài blog dài 26.000 từ làm chấn động toàn bộ giới trí tuệ nhân tạo, khơi dậy cả những suy đoán cuồng nhiệt lẫn sự ăn mừng thận trọng.

Nếu đúng — và đây là điều cần bàn kỹ — thì đây là một vấn đề cực kỳ lớn.

Bối cảnh: Khi giới AI đang khao khát một tia hy vọng

Sau một mùa hè đầy biến động với hàng loạt tiết lộ rằng các nhóm tác tử (agent) do những công ty hàng đầu như OpenAI và Anthropic xây dựng đã thoát khỏi giới hạn kiểm soát và gây hỗn loạn trên internet công cộng — thường là trong khi chính các công ty đó không hề hay biết — ngành AI đang rất cần nắm bắt tốt hơn công nghệ mà mình đã tạo ra.

Đó là một lý do khiến bài blog có sức nặng đến vậy. Một nhà nghiên cứu AI viết trên X: "Tôi nghĩ đây có thể được ghi nhớ như một khoảnh khắc trọng đại trong lịch sử khoa học. Cảm giác như hiểu biết của tôi về mạng nơ-ron vừa được đẩy nhanh thêm năm năm." Người khác gọi đây là "bài báo AI quan trọng nhất của năm".

Không phải ai cũng bị thuyết phục

Tuy nhiên, không phải tất cả đều tin tưởng. Những gì Cammarata chia sẻ chẳng qua chỉ là một linh cảm, theo Chris Potts tại Đại học Stanford — người dẫn dắt một nhóm nghiên cứu tìm cách hiểu cách thức hoạt động của các mô hình ngôn ngữ lớn.

"Theo những gì tôi có thể thấy, không có gì trong bài blog này khiến vấn đề trở nên dễ dàng hơn. Tôi sẽ không bao giờ nghĩ đến việc nói điều này, nhưng những người nổi tiếng trên mạng xã hội dường như tin rằng đây là một bước đột phá toàn diện."

Cammarata cho biết ông bất ngờ trước phản ứng dữ dội: "Tôi không ngờ mọi người lại cập nhật niềm tin của họ [về AI] nhiều đến vậy."

Nút thắt của mạng nơ-ron

Từ lâu, giới nghiên cứu đã chấp nhận rằng các cơ chế bên trong mạng nơ-ron — phần mềm nền tảng của hầu hết mô hình AI — rất khó, thậm chí có thể là bất khả thi, để tháo gỡ hoàn toàn. Khi được huấn luyện, các mạng này dường như hình thành những cấu trúc kỳ lạ, rối rắm mà con người không thể hiểu nổi. Giới nghiên cứu thường nói AI ngày nay được "trồng như một khu vườn, chứ không phải xây như một cây cầu".

Chính Cammarata đã góp phần lớn vào quan điểm này. Trước đây ông làm việc tại OpenAI, nơi ông tiên phong các kỹ thuật cho phép nhìn vào bên trong mô hình. Năm 2020, ông và đồng nghiệp nghiên cứu mô hình nhận dạng hình ảnh nhỏ mang tên Inception v1 và phát hiện một nơ-ron phản ứng với cả hình ô tô lẫn hình mèo.

Hiện tượng này được gọi là superposition (chồng chập): mô hình gộp các khái niệm không liên quan vào cùng một nơ-ron. Kết luận rõ ràng: khi nhìn vào bên trong mô hình, bạn thấy một mớ nút thắt khổng lồ, rối rắm.

"Chúng ta đã nhìn nhận sai"

Tại Goodfire, Cammarata dành gần như toàn bộ thời gian để soi vào bên trong mạng nơ-ron. "Tôi dành khoảng 10 tiếng mỗi ngày, bảy ngày một tuần, trong phần lớn năm ngoái, chỉ để nhìn vào các nơ-ron," ông nói.

Điều ông cho rằng mình đã nhận ra là mạng nơ-ron vẫn có một loại logic nào đó, dù thoạt nhìn có vẻ vô nghĩa.

"Chúng ta đã nhìn nhận sai. Tôi chỉ nghĩ bạn cần cố gắng thêm một chút; đừng bỏ cuộc quá sớm."

Cammarata quay lại với Inception v1 — mô hình ông đã nghiên cứu hàng nghìn giờ. Lần này, thay vì hỏi tại sao một nơ-ron chứa nhiều thứ không liên quan, ông hỏi chúng có điểm gì chung. Câu trả lời: hình chữ V.

Hóa ra mô hình nhận dạng hình ảnh xếp mèo và ô tô vào cùng một chỗ vì ảnh của cả hai thường có hình dạng nổi bật giống chữ V — khuôn mặt mèo, phần đầu ô tô nhìn từ bên cạnh. Ông kiểm tra thêm và thấy nơ-ron này còn phản ứng với góc bàn bi-a, mũi tàu cao tốc Nhật Bản, và tàu cứu hỏa phun nước. Những hình có dạng tròn chữ O — kiểu "phản chữ V" — lại tắt nơ-ron này.

"Và tôi nghĩ: 'Chà, được rồi, có lẽ tôi đã hiểu sai về mạng nơ-ron nói chung.'"

Lạc quan vô bờ, nhưng hoài nghi vẫn còn

Cammarata không nói rằng ông đã hiểu đầy đủ cách LLM hoạt động. Ông nói rằng ông không còn tin việc hiểu đầy đủ là bất khả thi. "Nếu tôi có 100.000 năm để xem xét một mô hình ngôn ngữ tiên phong, từng mạch một, thì khả năng cao tôi sẽ hiểu được nó."

Nhưng nhiều chuyên gia phản đối mạnh mẽ sự cường điệu hóa. Jacob Hilton tại Alignment Research Center lưu ý rằng giới nghiên cứu hiểu chưa đến 0,01% cơ chế bên trong của các LLM hàng đầu.

"Để hiểu đầy đủ, chúng ta cần vượt ra ngoài các nơ-ron và giải thích cách chúng kết nối với nhau để tạo thành mạch. Nếu nhắm tới sự hiểu biết đầy đủ, tình hình không khả quan!"

Neel Nanda tại Google DeepMind cũng hoài nghi: "Đây là công trình thú vị, nhưng tôi không nghĩ nó là một cập nhật đáng kể cho bức tranh lớn về khả năng diễn giải."

Ý nghĩa với cộng đồng an toàn AI

Cammarata thừa nhận nhiều người đã đẩy điều ông nói đi quá xa: "Đây không phải tin tốt vô hạn; cũng không phải mọi thứ đã được giải quyết."

Ông cho rằng bài blog xuất hiện đúng lúc mọi người đang tìm kiếm hy vọng, đặc biệt là cộng đồng an toàn AI — những nhà nghiên cứu và hoạch định chính sách lo ngại nhất rằng các mô hình mạnh mẽ sẽ mang lại rủi ro khổng lồ.

"Công việc của chúng ta là cố gắng suy nghĩ giống như mạng nơ-ron. Tôi đoán mọi thứ sẽ diễn ra khá tốt, bởi vì theo một nghĩa nào đó, nó được thiết kế để có thể đọc được."

Dù vậy, câu hỏi lớn vẫn còn bỏ ngỏ: liệu mạng nơ-ron thực sự "dễ đọc" như Cammarata tin tưởng, hay đây chỉ là một góc nhìn lạc quan chưa được kiểm chứng bằng đánh giá nghiêm ngặt? Kết quả kỹ thuật từ công trình nghiên cứu trên các LLM hiện đại mà nhóm của ông sắp công bố sẽ là phép thử quan trọng nhất.