Rich Hickey: 'AI' không phải là công cụ

Rich Hickey, tác giả ngôn ngữ lập trình Clojure và là một trong những kỹ sư phần mềm có ảnh hưởng nhất trong cộng đồng lập trình hàm, vừa công bố một bài viết gây chú ý với tiêu đề "'AI' Is Not a Tool" (tạm dịch: "AI không phải là công cụ"). Bài viết nhanh chóng lan truyền trên Hacker News và các diễn đàn công nghệ, thu hút hàng chục bình luận tranh luận sôi nổi.

Trong bài, Hickey cho rằng việc gọi các mô hình ngôn ngữ lớn (LLM) là "công cụ" là một sai lầm về mặt khái niệm, và sự nhầm lẫn này có thể dẫn đến những hệ quả nghiêm trọng đối với cách con người học hỏi và làm việc.

Thế nào là một công cụ?

Hickey bắt đầu bằng việc truy vấn định nghĩa của từ "công cụ". Ông dẫn ra các định nghĩa phổ biến: một thiết bị hay dụng cụ, đặc biệt là thứ được cầm trên tay, dùng để thực hiện một chức năng cụ thể; một dụng cụ như búa hay cưa, được điều khiển bằng tay bởi người thợ trong quá trình lao động.

Nhưng định nghĩa mà ông tâm đắc nhất là: công cụ là thứ bạn vận dụng (wield).

"wield - sử dụng (như một công cụ hay dụng cụ) đặc biệt với toàn quyền điều khiển hoặc sức mạnh: nắm giữ, thao tác, kiểm soát."

Theo Hickey, ba đặc tính cốt lõi làm nên một công cụ là:

• Được cầm trong tay — nguồn gốc của cả khả năng kiểm soát lẫn phản hồi giác quan, thể hiện sự gần gũi của hành động sử dụng
• Sức mạnh — truyền lực, năng lượng và định hướng, đòn bẩy
• Kiểm soát — ý định và sự chỉ đạo liên tục dòng chảy của sự kiện

Ông nhấn mạnh: công cụ là phương tiện để bạn làm ra điều gì đó, chứ chúng không làm thay bạn. Việc sử dụng công cụ xây dựng, tưởng thưởng và thường đòi hỏi chuyên môn kỹ năng. Chính quá trình áp dụng kỹ thuật, năng lượng và phản hồi giác quan liên tục mới tạo nên chuyên môn — từ gốc Latinh experiri, nghĩa là "thử".

LLM không được vận dụng — chúng tự vận hành

Điểm mấu chốt trong lập luận của Hickey nằm ở chỗ: kiểm soát, phản hồi giác quan, ý định, sự gần gũi, chỉ đạo liên tục và chuyên môn đều vắng mặt khi ta dùng LLM.

"automation - (của một thiết bị hay quy trình) hoạt động tự thân với ít hoặc không có sự kiểm soát trực tiếp của con người."

Theo ông, một cửa hàng drive-thru không phải là công cụ để nấu ăn, mà là tự động hóa để tránh việc nấu ăn. Tương tự, LLM không phải là công cụ để viết mã — chúng là tự động hóa để tránh việc viết mã, để bạn thoái thác việc viết mã.

Bạn không điều khiển hành động của LLM. Bạn đưa ra yêu cầu và nó tự hành động, không cần năng lượng hay sự chỉ đạo liên tục của bạn. Chu trình yêu cầu/tự động hóa này không phải là vận dụng, không phải kiểm soát, không liên tục và không có phản hồi.

Cái giá của việc thoái thác

Hickey đưa ra ví dụ về việc dùng LLM để đọc và tóm tắt các bài nghiên cứu. Nhiều người biện minh rằng "LLM không viết bài của tôi, tôi chỉ dùng nó như một công cụ để đọc và tóm tắt". Nhưng theo ông, bạn không vận dụng nó để đọc — chính nó đọc, không phải bạn.

Và khi thoái thác việc đọc, bạn đánh mất gần như tất cả:

• Mất cơ hội học cách viết từ những người viết giỏi
• Mất cơ hội học cách xây dựng một lập luận
• Mất khả năng nhận ra những chi tiết tinh tế
• Mất việc nạp vào tâm trí nền tảng chất liệu cho những ý tưởng mới
• Mất việc xây dựng niềm tin với tác giả này và sự hoài nghi với tác giả khác
• Mất tất cả những câu đùa
• Mất tất cả những góc cạnh
• Mất khả năng học cách suy nghĩ

Kết luận: tự động hóa có bản chất khác công cụ

Hickey kết thúc bằng một lưu ý sắc bén: công cụ không bị "lệch hướng", không "nổi loạn", không "thoát khỏi vòng kiểm soát", không "âm mưu". Những khái niệm đó chỉ có ý nghĩa khi nói về các hệ thống tự động hóa.

"Nhiều người dùng cụm từ 'chỉ là công cụ' đơn giản để ám chỉ 'chúng là những gì bạn tạo ra từ chúng'. Ngoại trừ điều đó không đúng. Tự động hóa có những thuộc tính nội tại và khác biệt so với công cụ mà bạn bỏ qua là tự chuốc lấy rủi ro."

Với độc giả Việt Nam đang chứng kiến làn sóng ứng dụng AI mạnh mẽ trong doanh nghiệp và giáo dục, quan điểm của Hickey đặt ra một câu hỏi đáng suy ngẫm: khi chúng ta ngày càng giao phó việc đọc, viết, phân tích và ra quyết định cho AI, liệu chúng ta đang dùng công cụ hay đang từ bỏ dần năng lực của chính mình?