AI không có ý định và không có động cơ

Chúng ta đang dành khá nhiều sự lo lắng cho viễn cảnh AI "nổi loạn", và có không ít ví dụ được đưa ra để minh họa. Tuy nhiên, theo góc nhìn của tác giả Mike James trên I Programmer, tất cả những ví dụ đó đều là cách diễn giải sai lệch: AI hiện tại không có ý định và cũng không có động cơ.

Minh họa về sự hỗn loạn của AI

Từ "con vẹt ngẫu nhiên" đến ảo giác về trí tuệ

Nếu bạn tin rằng thế hệ AI hiện nay chỉ là một "con vẹt ngẫu nhiên" (stochastic parrot), thì có lẽ không cần bàn thêm.

Nhưng nếu đã từng sử dụng các sản phẩm AI hiện có, bạn buộc phải thừa nhận rằng: dù cơ chế huấn luyện khiến ta nghĩ đây chỉ là những công cụ tự động điền văn bản tinh vi, các mô hình ngôn ngữ lớn (LLM) dường như vẫn "hơn thế" một chút.

Lập luận được tác giả nhắc lại nhiều lần: kho ngữ liệu huấn luyện — tức ngôn ngữ — đã mã hóa đủ nhiều về cấu trúc của thế giới đến mức LLM có thể vượt xa những gì ta kỳ vọng ở một con vẹt ngẫu nhiên. Chúng không thông minh, nhưng tạo được ấn tượng khá tốt rằng chúng thông minh.

Nỗi lo về "ngày tận thế AI"

Vậy có nên lo về viễn cảnh AI xóa sổ loài người? Nhiều nhà nghiên cứu AI — như Hinton, Hassabis hay Bengio — từng bày tỏ quan ngại rằng AI có thể hủy diệt chúng ta. Nhưng khi xem xét kỹ điều họ nói, nội dung không hẳn giống với phát ngôn của các ông chủ doanh nghiệp phi kỹ thuật, những người phần lớn chỉ "nhảy vào" chủ đề này như một cách kiếm tiền.

Tác giả cho rằng không nên nghe theo nhóm doanh nhân này, bởi họ có quá nhiều mục đích riêng, và do đó có lý do để ưu tiên những kịch bản trong đó AI toàn năng và đầy đe dọa.

Ở phía ngược lại, có những chuyên gia như Ng, LeCun và Brooks cho rằng chúng ta đang đánh giá quá cao sức mạnh của AI hiện tại, cũng như thời gian cần để nó đạt tới mức vượt trí tuệ con người. Nhưng kể cả điều đó đúng, vẫn có một lý do tốt hơn để bớt lo: động cơ.

Con người bị thúc đẩy bởi sinh học, AI thì không

Hãy nhìn vào một con người. Chúng ta có đủ loại nhu cầu vì chúng ta là sinh vật. Chúng ta bị thôi thúc bởi nhu cầu tồn tại, và làm mọi việc để có thức ăn, chỗ ở, an toàn và bạn đời. Chúng ta bị điều khiển bởi sinh học.

Điều này không đúng với AI. Các LLM mà chúng ta dùng được huấn luyện bằng học tăng cường (reinforcement learning). Nếu diễn đạt theo ngôn ngữ con người, chúng được "thưởng" khi làm đúng nhiệm vụ huấn luyện. Tác giả cho rằng cách nhân cách hóa này hơi quá đà, nhưng nó không gây hại.

Sau khi huấn luyện xong, LLM không còn chịu tác động của học tăng cường nữa. Chúng không còn bất kỳ dạng động cơ nào. Chúng không được thưởng khi trả lời câu hỏi. Chúng không có nhu cầu hay mong muốn, và kể cả có, cũng chẳng có cơ chế nào để hấp thụ phần thưởng. Chúng thậm chí không có phản hồi nào có thể thay cho niềm tự hào khi hoàn thành tốt công việc.

Hãy thử khen một LLM rằng nó trả lời câu hỏi của bạn rất hay. Phản hồi nhận được, trong trường hợp tốt nhất, cũng rất nhạt nhòa và rõ ràng là do lớp giao diện được lập trình sẵn ở giữa bạn và mô hình tạo ra.

Không có ý định, không có sáng kiến

Hơn nữa, lần cuối cùng AI tự gợi ý điều gì đó cho bạn mà không được hỏi là khi nào? Đã bao giờ bạn mở cửa sổ chat và thấy AI gõ rằng "Tôi vừa có một ý tưởng tuyệt vời cho..." rồi giải thích vì sao ý tưởng đó hay chưa?

LLM không có ý tưởng hay — chúng không có ý định. Khi bạn khám phá một chủ đề cùng AI, có thể bạn sẽ thấy nó gợi ra điều gì đó lạ lẫm nằm trong tập huấn luyện, nhưng đó không phải là sáng kiến tự thân. Chính chúng ta điều khiển AI bằng cách đặt câu hỏi xuất phát từ nhu cầu của mình.

LLM không được thúc đẩy để làm bất cứ điều gì, kể cả trả lời câu hỏi của bạn. Động cơ đơn giản là không xuất hiện trong phương trình này. Bạn gõ câu hỏi, thuật toán lan truyền xuôi (forward propagation) được chạy. Dù câu trả lời đúng hay vô dụng, LLM cũng không nhận phần thưởng hay hình phạt nào.

Nó cũng không bị chi phối bởi những mối bận tâm mà con người thường có — "bữa tối của mình sẽ từ đâu tới", "làm sao để được thăng chức khỏi công việc này", "cách tốt nhất để hẹn hò là gì"... Con người là một bó nhu cầu hỗn độn, còn LLM không có gì trong số đó.

Minh họa lập trình và AI

Vì sao điều này khiến LLM vô hại?

Đơn giản vì nó không thực sự muốn bất cứ điều gì — nhưng con người thì quá nhiều nhu cầu đến mức không thể tưởng tượng nổi một thứ tồn tại ở trạng thái không có nhu cầu nào.

Liệu AI có xóa sổ chúng ta không? Tại sao lại thế? Nó được gì chứ? Nó thậm chí không có vòng lặp phần thưởng cho việc tạo ra logic gọn gàng — nó không có vòng lặp phần thưởng nào cả.

Nếu một AI quyết định xóa sổ loài người, thì đó sẽ là vì một con người đã hỏi nó cách làm, và nó trả lời dựa trên mọi cách kết thúc thế giới mà con người từng diễn đạt trong tập dữ liệu huấn luyện. Đúng, đây là điều đáng lo — nhưng thủ phạm không phải AI. Vẫn là con người.

Điều này có ý nghĩa gì với Việt Nam?

Với cộng đồng công nghệ Việt Nam, các doanh nghiệp đang tích cực tích hợp LLM vào chatbot chăm sóc khách hàng, trợ lý nội bộ hay công cụ viết nội dung, bài viết này là lời nhắc hữu ích: đừng kỳ vọng AI tự đưa ra sáng kiến hay tự vận hành theo mục tiêu riêng.

Nếu muốn AI làm việc gì đó, ta phải chỉ định rõ ràng — và chịu trách nhiệm về kết quả. Giới hạn thực sự nằm ở con người thiết kế hệ thống, đặt câu hỏi và ra quyết định, chứ không nằm ở "ý chí" của mô hình.