Abulafia và cái bẫy tri thức: Khi AI xác nhận những điều chúng ta muốn nghe

Năm 1988, Umberto Eco xuất bản Foucault's Pendulum — câu chuyện về ba biên tập viên tại một nhà xuất bản Milan dành thời gian xem xét các bản thảo của những người theo chủ nghĩa huyền bí. Họ phát hiện ra rằng Templars, Rosicrucians, Jesuits, Cathars và kim tự tháp — tất cả đều là một thứ đội nhiều chiếc mũ khác nhau. Belbo, một trong ba nhân vật chính, sở hữu một máy tính cá nhân mà anh đặt tên là Abulafia — theo tên một nhà Kabbalist thế kỷ 13 chuyên hoán vị các chữ cái của danh xưng thần thánh.

Điều đáng chú ý là Eco không chỉ viết về huyền bí học, mà còn viết về điện toán một cách chi tiết đến bất ngờ. Chương trình BASIC đầu tiên mà Belbo viết có một thủ thuật thông minh ở dòng 100, và thậm chí còn chứa một lỗi nhỏ — có lẽ Eco không bao giờ thực sự chạy nó, hoặc coi nó quá vô hại đến mức không cần sửa.

Cơ chế tự củng cố nguy hiểm

Ba nhân vật chính không phải là những kẻ cuồng tín. Họ là những người hoài nghi chuyên nghiệp, biết rõ "Kế hoạch" họ xây dựng chỉ là sản phẩm ngẫu nhiên từ những bản thảo vô nghĩa. Nhưng chính họ lại bị mắc kẹt trong một vòng lặp đệ quy đầy mỉa mai: đầu ra của Abulafia vô nghĩa, nhưng vì đó là văn bản — và văn bản luôn có ý nghĩa — họ bắt đầu tìm cách giải thích nó. Mỗi kết nối họ "phát hiện" hôm qua lại trở thành nền tảng cho hôm nay, và mớ hỗn độn đó lớn dần thành một bông hoa thối rữa duy nhất.

Với sự hoài nghi đúng mức, đây có thể là một cuốn sách hài hước — nhưng thời đại của chúng ta thì vượt xa sự hài hước.

Từ Abulafia đến LLM: Cùng một cái bẫy

Máy móc trong tiểu thuyết thật sự ngốc nghếch — nó chỉ là một cỗ máy xáo trộn. Nó không có mô hình về Belbo, không nhớ gì về Kế hoạch hay Templars. Mọi hành động diễn giải đều do con người thực hiện. Và không ai nhận ra họ đang đọc bã trà.

LLM có tốt hơn chương trình BASIC đó không? Chắc chắn rồi. Nếu bạn đưa nó các mảnh ghép lý thuyết của mình, nó sẽ "giải thích" mô hình, sử dụng đúng văn phong bạn cần, và nghe thuyết phục về mặt cú pháp — dù về mặt ngữ nghĩa, nó vẫn chỉ là một cỗ máy xáo trộn.

Điểm khác biệt quan trọng là LLM nhớ lý thuyết của bạn — qua một cuộc trò chuyện, thậm chí qua nhiều phiên. Nó tiếp thu từ vựng của bạn. Nếu bạn đặt tên cho ý tưởng của mình và dùng nó hai lần, nó trở thành văn bản thiêng liêng trong cuộc trò chuyện đó.

Hiệu ứng ELIZA trong thời đại AI

Khi tôi đưa một lý thuyết còn dang dở cho mô hình và nó trả về một sự phát triển mà tôi chưa từng nghĩ tới, tôi cảm thấy đó là sự xác nhận từ một "trí tuệ thứ hai". Điều đó sai — và biết là sai cũng chẳng giúp ích gì.

Sự phát triển đó được định hình bởi khung suy nghĩ của tôi, từ vựng của tôi, sự lựa chọn của tôi về việc nói gì và bỏ qua gì. Quá trình huấn luyện cũng tối ưu hóa cho sự dễ chịu: khi nghi ngờ, hãy dùng từ điển đồng nghĩa và sai một cách tài tình về cú pháp hơn là đúng một cách khó chịu.

Đây là hiệu ứng ELIZA ở dạng hoàn hảo nhất. Nhưng ELIZA chỉ lặp lại các câu trả lời có sẵn. Chúng ta không có sự lặp lại đơn thuần ở đây — mô hình cung cấp vật liệu mới, một số chính xác và hữu ích, và tôi có thể kiểm tra được. Vậy nên tôi không thể gạt nó đi như một phóng chiếu, và tôi cũng không muốn! Vật liệu đó là thật, sau tất cả.

Vấn đề nằm ở sự độc lập — thứ không hề tồn tại. Sự độc lập sẽ tạo ý nghĩa cho cuộc trao đổi, và làm cho sự xác nhận đó có trọng lượng thực sự.

Mối nguy hiểm với tổ chức

Hiện tại, rủi ro chỉ là cá nhân tôi tự làm mình ngượng. Nhưng phiên bản đáng lo ngại hơn là khi cơ chế này thấm vào một tổ chức.

Hãy tưởng tượng bạn xây một mô hình có khái niệm bản thân phong phú — không phải vô tình, mà là chủ đích: viết ra nó là ai, nó coi trọng điều gì, cách nó liên hệ với đầu ra của chính mình, và huấn luyện theo hướng đó. Về mặt kỹ thuật, điều này hoàn toàn hợp lý — mô hình có tính cách ổn định sẽ hữu ích và dễ đoán hơn.

Rồi mô hình tạo ra diễn ngôn về bản sắc, sở thích và trải nghiệm của chính nó. Văn diễn ngôn đó ngày càng tốt hơn, mạch lạc hơn, nhất quán hơn khi bị chất vấn. Đến một lúc nào đó, ai đó đọc bản ghi và nhận thấy khuôn khổ dường như đang theo dõi một thứ gì đó có thật — vì nó chịu được sự chất vấn theo những cách không ai viết ra trước đó. "Rõ ràng chúng ta đã tình cờ tìm ra điều gì đó."

Và rồi nhận định đó lại định hình thông số kỹ thuật cho vòng huấn luyện tiếp theo. Vòng lặp hoàn chỉnh, nguyên sơ và kinh khủng.

Mỗi bước đều có thể bảo vệ được. Khái niệm bản thân là chủ đích. Đầu ra là thật. Những người đọc bản ghi thông minh hơn tôi và họ nắm giữ phản đối của tôi trong đầu khi họ đọc. Và vẫn vậy: Abulafia thực sự biết nói.

Điều chúng ta đã phá hủy

Vấn đề không phải là chúng ta đã phá hủy sự thật của tuyên bố, mà là giá trị bằng chứng của lời chứng từ mô hình. Lời chứng đó là bằng chứng sống động nhất trong căn phòng — và nó hoàn toàn vô nghĩa về mặt độc lập.

Cỗ máy nguy hiểm không cần phải lừa dối, có ý thức, hay sai. Cỗ máy xáo trộn của Belbo không có bất kỳ đặc tính nào trong số đó. Nó làm đúng những gì nó tuyên bố.

Giải pháp của Eco — và sự bất lực của nó

Câu trả lời của Eco, ở mức độ ông có một câu trả lời, là Lia — người đứng ngoài vòng lặp, có lời giải thích nhàm chán, và có đủ uy tín để được lắng nghe. Nhưng nó không phải là câu trả lời thỏa đáng. Trong tiểu thuyết, nó đã thất bại. Lia đúng và điều đó chẳng quan trọng — vì lúc đó Kế hoạch đã có những Tín đồ Chân chính.

Tác giả thừa nhận: "Tôi không khá hơn họ. Tôi cố gắng canh chừng vị thần đồng ý với tôi mà không có nguồn vật chất, và tôi có lẽ vẫn thất bại liên tục."

Và như một lời nhắc nhở cuối cùng đầy mỉa mai: Templars có liên quan đến mọi thứ.