Mạng nơ-ron vốn đã "sạch": Góc nhìn mới về khả năng giải thích mô hình AI

Có một niềm tin đã ăn sâu trong giới nghiên cứu trí tuệ nhân tạo: bên trong các mạng nơ-ron là những "mớ bòng bong" khái niệm chằng chịt, không thể hiểu trực tiếp. Nhưng một bài viết mới đây của nhà nghiên cứu Nick Cammarata lập luận rằng niềm tin này xuất phát từ những cách hiểu sai — và các mạng nơ-ron thực ra đã "sạch" hơn nhiều so với chúng ta tưởng.

Một cuộc tranh luận nền tảng

Ngành nghiên cứu khả năng giải thích cơ chế (mechanistic interpretability) — nỗ lực mổ xẻ xem mạng nơ-ron thực sự "nghĩ" như thế nào — từ lâu đứng trước hai hướng tiếp cận.

Cách thứ nhất là nghiên cứu trực tiếp mạng nơ-ron: nhìn vào các nơ-ron và mạch, xem dữ liệu chảy qua chúng ra sao, rồi kiểm chứng các giả thuyết. Cách thứ hai là liệt kê một danh sách các đặc trưng giả định rồi tìm cách trích xuất tất cả, thường bằng cách huấn luyện một mô hình thứ hai — chẳng hạn sparse autoencoder — để tái tạo lại mạng như thể nó đã được "gỡ rối".

Cách thứ hai ra đời vì một lý do đơn giản: các nơ-ron dường như có nhiều nhiệm vụ không liên quan đến nhau. Ví dụ nổi tiếng nhất là một nơ-ron trong mô hình thị giác phản ứng với cả mặt mèo lẫn phần đầu xe hơi. Hiện tượng này được gọi là đa nghĩa (polysemanticity).

Lời giải thích "chồng chập" và sai lầm của nó

Lời giải thích thống trị cho hiện tượng đa nghĩa là chồng chập (superposition). Giả thuyết này cho rằng khi mạng hết chỗ trong các nơ-ron, nó không còn nhóm những thứ liên quan với nhau nữa, mà bắt đầu gộp những thứ không liên quan lại — đơn giản vì chúng không "va chạm" nhau. Kết quả là một loại nút thắt, và cách gộp gần như tùy tiện, không mang thông tin gì.

Theo bài viết, đây là một cách hiểu sai. Những vấn đề về kiến trúc khiến các tầng sâu bị quá tải, còn các công cụ giải thích yếu kém lại khuếch đại vấn đề đó, khiến các tầng cuối trông có vẻ hỗn loạn.

Bằng chứng đáng chú ý nhất: khi áp dụng các cải tiến kiến trúc thông thường — như kết nối dư (residual connections) và LayerNorm — mà không thay đổi kích thước mô hình hay dữ liệu huấn luyện, thì 99–100% nơ-ron ở tầng cuối trở nên dễ hiểu. Trước đây, con số này gần như bằng không.

Vấn đề không nằm ở sự tồn tại của một nguyên lý học thứ hai, mà chỉ là một thất bại học tập thông thường của nguyên lý đầu tiên — và nó dễ sửa.

Tổng quát hóa đệ quy: chìa khóa bị bỏ quên

Điểm cốt lõi của bài viết là một cơ chế mà tác giả gọi là tổng quát hóa đệ quy (recursive generalization).

Hãy hình dung một nơ-ron như một cành cây mọc ra các nhánh con. Một nơ-ron ban đầu nhận diện "iy" sẽ phát triển để nhận diện "diy", rồi sau đó là "do it yourself" — cụm từ không hề chứa "iy". Mỗi bước mở rộng đều dễ theo dõi tại chỗ, nhưng cộng dồn lại khiến nơ-ron trông như thể đang "đa nghĩa".

Điều này khác biệt căn bản với chồng chập. Với tổng quát hóa, các khái niệm được nhóm lại vì chúng giống nhau — nên việc nhóm lại mang thông tin hữu ích về cách mạng suy nghĩ. Với chồng chập, hai khái niệm bị gộp lại một cách tùy tiện, nên chẳng có gì để học từ đó.

Sơ đồ minh họa cơ chế tổng quát hóa đệ quy trong mạng nơ-ron

Những "huyền thoại" được giải mã

Bài viết dành nhiều dung lượng để mổ xẻ hai ví dụ kinh điển từng được coi là bằng chứng cho sự hỗn loạn.

Trường hợp nơ-ron mèo và xe hơi: Nơ-ron nổi tiếng này thực chất không nhận diện mèo hay xe hơi, mà nhận diện hình chữ V. Nó có thể kết nối với lửa hình chữ V, tia nước hình chữ V từ tàu cứu hỏa, hay mặt cáo hình chữ V. Cực âm của nó là hình chữ O — tròn, đối lập với chữ V nhọn. Tác giả nhận xét rằng các nơ-ron nên được hiểu như động từ hơn là danh từ: chúng không đặt tên cho thứ có trong đầu vào, mà tạo ra một sự phân biệt mà các nơ-ron phía sau có thể dùng.

Mạch chồng chập năm 2019: Được cho là bằng chứng về một đặc trưng xe hơi "ẩn náu" trong các nơ-ron chó. Nhưng thực tế, xe hơi và chó được gom lại vì tư thế chung (shared pose). InceptionV1 có hơn một trăm nơ-ron tư thế tổng quát như vậy, và theo tác giả, gần như không ai từng để ý.

Phần lớn sự nhầm lẫn đến từ hai nguồn: thiếu hiểu biết về các mô-típ nơ-ron, và hiện tượng "reward hacking" trong kỹ thuật trực quan hóa đặc trưng (feature visualization) — một phương pháp dùng gradient descent để tạo ảnh, nhưng vì InceptionV1 có quá nhiều ảnh chó trong dữ liệu huấn luyện, quá trình tối ưu cứ rơi vào các nơ-ron chó và không thoát ra được.

Mô hình ngôn ngữ hiện đại: lạc quan hơn ta nghĩ

Những kết quả ban đầu về mô hình ngôn ngữ cũng rất bi quan. Nghiên cứu Towards Monosemanticity của Anthropic (2023) cho nơ-ron trung vị điểm 0 trên thang 14. Dự án về khả năng giải thích tự động tại OpenAI cùng năm chỉ tìm thấy khoảng 1,7% nơ-ron có thể hiểu được.

Minh họa phân tích cấu trúc nơ-ron trong mô hình ngôn ngữ

Với công cụ tốt hơn và mô hình hiện đại, bức tranh đổi khác. Trong các đợt kiểm tra sơ bộ trên Qwen3-32B, tác giả ước tính khoảng 90% cực nơ-ron có một nhiệm vụ chính, khoảng 7% có hai nhiệm vụ liên quan, và chỉ 2–4% là chưa hiểu được. Kết quả tương tự cũng xuất hiện ở các mô hình lên tới hàng nghìn tỷ tham số.

Cần lưu ý rằng những con số phần trăm này chỉ là điểm chỉ hướng đại khái, phụ thuộc vào cách đặt ngưỡng phân loại — không phải một chỉ số chính xác để tối ưu.

Vì sao khoảng cách cũ lớn đến vậy?

Bài viết liệt kê nhiều nguyên nhân thông thường chồng lên nhau:

• Các mô hình giải thích năm 2023 không thể chạy vòng lặp giả thuyết – kiểm chứng
• Công cụ và thước đo yếu, thưởng cho những lời giải thích mô phỏng được thay vì đúng
• Không ai biết cần tìm mô-típ nơ-ron ngôn ngữ nào, nên đa số tìm sai thứ
• Hầu hết nghiên cứu dùng mô hình nhỏ hoặc đơn giản hóa

Điểm thú vị là hiểu biết có đà tích lũy — giống như giải ô chữ. Ban đầu, nhìn vào một nơ-ron đơn lẻ mà không hiểu thì gần như không có gì giúp được, vì mạch và đồ thị quy kết chỉ giải thích nơ-ron này bằng các nơ-ron khác mà bạn cũng chưa hiểu. Nhưng khi bản đồ bắt đầu được lấp đầy, mọi thứ diễn ra nhanh chóng một cách đáng ngạc nhiên.

Hàm ý cho tương lai

Bài viết đưa ra một lập luận bốn bước:

1. Mạng nơ-ron dùng một nguyên lý học, không phải hai, nên không có rào cản để bắt đầu nghiên cứu khoa học thông thường trên chúng
2. Với mô hình và công cụ hiện đại, quá trình này diễn ra tốt hơn nhiều người kỳ vọng
3. Hiểu biết tích lũy, nên càng về sau càng dễ
4. Mang tính suy đoán cao: có thể đây là phần lớn những gì chúng ta cần

Minh họa mối quan hệ giữa các tầng và mạch trong mạng nơ-ron

Tác giả liên hệ với "bài học cay đắng" (The Bitter Lesson) của Rich Sutton: giải pháp đơn giản ở quy mô khổng lồ luôn thắng cách tiếp cận tinh vi. Có lẽ cũng tồn tại một bài học cay đắng cho khả năng giải thích: mở rộng điều tra thông thường sẽ thắng việc thiết kế ra những phương pháp phân rã mới đầy tinh xảo.

Đối với cộng đồng AI Việt Nam đang ngày càng tham gia sâu vào nghiên cứu và triển khai mô hình lớn, góc nhìn này mang ý nghĩa thực tiễn. Nếu các mạng nơ-ron thực sự "sạch" và có thể hiểu trực tiếp, thì an toàn AI, kiểm toán mô hình và đáng tin cậy sẽ trở nên khả thi hơn nhiều so với lo ngại trước đây — thay vì phải chờ đợi những bước đột phá lý thuyết xa vời.