Hiểu tường tận về cách hoạt động của LLM: Không hề có phép màu nào ở đây

Tôi liên tục nghe thấy tuyên bố rằng "không ai biết các mô hình ngôn ngữ lớn (LLM) hoạt động như thế nào", và tôi muốn dứt điểm chuyện này một lần.

Điều đáng nói là tuyên bố này không chỉ đến từ những người chưa từng huấn luyện một mô hình nào. MIT Technology Review từng đăng bài với tiêu đề "Không ai biết AI hoạt động ra sao". TIME có bài "Không ai thực sự hiểu hệ thống AI vận hành thế nào". WIRED mô tả mạng nơ-ron như một điều bí ẩn ngay cả với những người tạo ra chúng, còn IBM cũng lặp lại quan điểm tương tự trong tài liệu giáo dục của mình. Đây đều là những cơ quan truyền thông lớn, và họ đang trình bày giới hạn của nghiên cứu khả diễn giải (interpretability) hiện tại như thể đó là giới hạn của hiểu biết nhân loại. Nhưng không phải vậy.

Tôi hiểu các mô hình ngôn ngữ lớn hoạt động như thế nào. Hàng nghìn người khác đã dành nhiều năm nghiên cứu, thiết kế, huấn luyện và triển khai chúng cũng vậy. Việc bạn không hiểu chúng, hoặc bạn không quen ai hiểu chúng, không có nghĩa là không ai hiểu cả.

LLM là hệ thống cơ học, không phải phép thuật

Các mô hình ngôn ngữ lớn là hệ thống cơ học. Chúng được tạo nên từ các hàm toán học và phần mềm do con người thiết kế, lập trình và chạy trên những cỗ máy do chính chúng ta chế tạo. Không có phép màu nào trong toàn bộ quá trình này.

Chúng ta biết thông tin đi vào hệ thống như thế nào, được biến đổi ra sao, các tham số được điều chỉnh thế nào trong quá trình huấn luyện, và những tham số đó được dùng để tính toán đầu ra như thế nào.

Hãy xem điều gì thực sự diễn ra khi bạn đặt câu hỏi cho một mô hình ngôn ngữ:

• Ký hiệu của bạn (văn bản tự nhiên) được chuyển thành một dạng dữ liệu đại diện khác với định dạng ký hiệu khác, gọi là token, rồi được biểu diễn bằng số cho các vi mạch tính toán.
• Trong kiến trúc transformer, dữ liệu đi qua một chuỗi phép toán: nhân ma trận, tính toán attention, chuẩn hóa và các biến đổi phi tuyến.
• Các giá trị số thu được, gọi là activation, tiếp tục đi qua nhiều tầng (layer) kế tiếp cho đến khi mô hình tạo ra một phân phối xác suất trên các token tiếp theo, từ đó chọn ra đầu ra theo thủ tục giải mã.
• Trong quá trình huấn luyện, dự đoán của mô hình được đánh giá bằng một hàm mất mát (loss function), đôi khi có kèm nhãn hoặc phản hồi từ con người hay phần mềm khác, và tín hiệu sai số thu được sẽ dùng để điều chỉnh tham số. Còn các truy vấn thông thường tới mô hình đã triển khai thì không tự động thay đổi tham số.

Mọi phép toán trong số này đều có thể được kiểm tra. Nếu có quyền truy cập vào mô hình và công cụ đo lường phù hợp, chúng ta có thể ghi lại activation ở từng tầng, xem xét từng attention head, kiểm tra trọng số và độ lệch, rồi truy vết phép tính số học đã tạo ra một đầu ra cụ thể. Chúng ta có thể sửa đổi, loại bỏ, thay thế các thành phần và quan sát điều gì thay đổi.

Hiểu để cải tiến, chứ không phải hiểu để thờ phụng

Hơn nữa, chúng ta hiểu các quá trình này đủ sâu để liên tục cải tiến chúng. Chúng ta phát triển kiến trúc mới, điều chỉnh quy trình huấn luyện, nhận diện điểm nghẽn tính toán, thay đổi cách tính attention và chủ động thay đổi hành vi của mô hình. Những cải tiến này khả thi chính vì chúng ta hiểu hệ thống vận hành thế nào và có thể điều tra những phần chưa hiểu rõ.

Bản thân tôi đã huấn luyện các mô hình, tự tay viết thuật toán học, và dành phần lớn sự nghiệp để làm việc với trí tuệ nhân tạo. Tôi không hiểu mọi thứ về mọi mô hình, và cũng không ai hiểu hết. Nhưng đó chưa bao giờ là tiêu chuẩn để xác định một người có hiểu một công nghệ hay không.

Đã có những chương trình nghiên cứu dành riêng cho việc này. Chương trình Transformer Circuits điều tra các cơ chế tính toán bên trong mạng nơ-ron, còn nghiên cứu circuit tracing phát triển phương pháp xác định và kiểm tra các đường dẫn chịu trách nhiệm cho hành vi cụ thể của mô hình. Công việc này đang diễn ra ngay lúc này, và bạn có thể tự đọc, bởi phần lớn tài liệu — khác với nhiều nghiên cứu thực nghiệm trong các ngành khoa học khác — đều được công bố công khai, cùng với những cách miễn phí để tự xây dựng mô hình trên máy tính sẵn có.

Với mô hình ngôn ngữ, chúng ta có thể đi xa hơn gần như mọi công nghệ khác, vì việc tái tạo quá trình tạo ra chúng tương đối rẻ. Khác với việc cố tái tạo quy trình chế tạo máy bay thương mại — trên đời chẳng có mấy chiếc máy bay tự chế nào đang bay.

Nếu có quyền truy cập vào dữ liệu huấn luyện, kiến trúc, quy trình tối ưu hóa, điều kiện ban đầu và môi trường tính toán, tôi có thể huấn luyện mô hình bao nhiêu lần tùy thích và mô tả đặc điểm của nó. Tôi có thể đổi seed ngẫu nhiên, thay đổi thứ tự các mẫu huấn luyện, sửa kiến trúc, hoặc loại bỏ một phần dữ liệu. Tôi có thể lặp lại thí nghiệm và so sánh các mô hình thu được để xác định hành vi nào xuất hiện ổn định, hành vi nào phụ thuộc vào điều kiện huấn luyện cụ thể.

Ở đâu có tính ngẫu nhiên hay phi xác định, chúng ta có thể mô tả đặc điểm bằng thực nghiệm. Chúng ta đo phân phối, cô lập biến số, điều tra quan hệ nhân quả giữa điều kiện huấn luyện và hành vi kết quả. Chúng ta thậm chí có thể so sánh biểu diễn nội bộ của các mô hình được huấn luyện độc lập để xem liệu những cấu trúc tính toán tương tự có xuất hiện qua các lịch sử huấn luyện khác nhau hay không.

Tất cả những gì tôi đang mô tả chính là cách khoa học thực nghiệm vận hành.

Từ "tôi không hiểu" đến "không ai hiểu"

Việc chúng ta chưa phát triển được một quy trình tiện lợi giúp dịch mọi phép tính nội bộ thành lời giải thích dễ hiểu cho bất kỳ ai không được đào tạo, không có nghĩa là hệ thống đó bất khả tri. Việc diễn giải có thể khó và không dễ tiếp cận với phần lớn mọi người — điều này đúng với gần như mọi công nghệ trong thế giới hiện đại.

Tôi từng viết về niềm tin và khối lượng hiểu biết khổng lồ mà chúng ta thừa hưởng từ người khác. Hầu hết mọi người chưa bao giờ tự mình kiểm chứng các nguyên lý vật lý đứng sau những công nghệ họ dùng hàng ngày. Họ dựa vào một kho tri thức khổng lồ được tạo ra bởi những người đã làm thí nghiệm, phát triển lý thuyết và xây dựng các hệ thống vận hành được.

Công nghệ hạt nhân luôn là ví dụ đối chiếu quen thuộc của tôi. Rất ít người hiểu chi tiết kỹ thuật của một lò phản ứng hạt nhân, và càng ít người có quyền truy cập thông tin mật cần thiết để hiểu thiết kế của một loại vũ khí hạt nhân cụ thể. Vậy có ai đó nói rằng không ai hiểu phản ứng dây chuyền hạt nhân không? Không. Xã hội chỉ chấp nhận rằng nếu bạn không được đào tạo chuyên sâu và có kinh nghiệm thực hành, bạn sẽ không hiểu nhiều ở mức vận hành.

Trí tuệ nhân tạo cũng chuyên sâu tương tự, dù nền tảng khoa học của nó — so với hầu hết ngành thực nghiệm — lại cởi mở hơn rất nhiều với bất kỳ ai chịu khó học. Khi các hệ thống này trở nên phức tạp hơn, sẽ ngày càng ít người sở hữu kiến thức kỹ thuật cần thiết để hiểu chi tiết cách chúng được xây dựng và vận hành.

Có một khoảng cách khổng lồ giữa việc nói "tôi không hiểu điều gì đó" và tuyên bố "không ai hiểu điều đó". Bạn nên có bằng chứng đặc biệt thuyết phục trước khi đưa ra tuyên bố như vậy.

Khoa học chưa bao giờ kết thúc

Tất nhiên, có vô số câu hỏi chưa có lời giải về AI — đó chính là lý do chúng ta nghiên cứu nó một cách ráo riết. Và cũng có những câu hỏi mở về bản thân trí tuệ, vượt xa phạm vi trí tuệ nhân tạo.

Các nhà vật lý không hiểu hết về vật lý. Các nhà sinh học không hiểu hết về sinh học. Không ai kết luận từ đó rằng không ai hiểu vật lý hay sinh học. Đó chính là ý nghĩa của khoa học. Nó không bao giờ kết thúc.

Năm 2019, tôi có một cuộc trò chuyện dài với các triết gia tại Computational Philosophy Lab ở Northeastern, và một trong những kết luận đáng nhớ nhất chẳng liên quan gì đến AI hay máy tính. Kết luận đó là: triết học không trả lời câu hỏi; nó chia nhỏ câu hỏi thành nhiều câu hỏi hơn để đạt tới sự rõ ràng tốt hơn.

Đó chính là khoa học, và đó là cách tiến bộ diễn ra trong AI cũng như mọi ngành kỹ thuật khác. Bạn trông thật ngớ ngẩn khi nói không ai hiểu mô hình ngôn ngữ lớn hoạt động thế nào. Nếu bạn gặp điều gì đó về các hệ thống này thực sự chưa được hiểu rõ — tuyệt vời. Bạn đã tìm ra một câu hỏi khoa học đáng để điều tra. Hãy đặt giả thuyết, thiết kế thí nghiệm và xem mình học được gì.

Điều tôi phản đối là việc biến sự thiếu hiểu biết cá nhân thành một tuyên bố phổ quát về tri thức nhân loại, đặc biệt khi tuyên bố đó được dùng để gợi ý rằng trí tuệ nhân tạo là điều gì đó bí ẩn hay nằm ngoài khả năng giải thích khoa học.

Đây là những cỗ máy chúng ta tự xây, tự huấn luyện và tự kiểm tra. Chúng ta có thể tái tạo hành vi của chúng, sửa đổi hoạt động nội bộ, và điều tra các quá trình chúng học hỏi. Phải mất nhiều năm mới hiểu được những kiến thức cơ bản của lĩnh vực này, nhưng độ khó của việc tiếp thu kiến thức không phải là bằng chứng cho thấy không tồn tại ai có kiến thức đó.