Ảo giác Claude: Khi chính chúng ta mới là kẻ gặp ảo giác về AI

Cory Doctorow vừa công bố một bài luận đáng chú ý trên Pluralistic, đặt ra câu hỏi ngược đời: điều gì sẽ xảy ra nếu chính con người, chứ không phải AI, mới là những kẻ đang "ảo giác"? Bài viết phân tích cách bộ não chúng ta phản xạ gán ghép ý định cho mọi thứ, và tại sao phản xạ đó lại trở thành vấn đề lớn khi đối diện với các chatbot.

Hoàng hôn của người vô thần và người hữu thần

Doctorow mở đầu bằng một ẩn dụ đầy chất thơ: cách một người nhìn hoàng hôn thay đổi ra sao khi họ trở thành người vô thần.

Nếu bạn tin vào một vị thần toàn năng, hoàng hôn là tác phẩm được tạo ra có chủ đích. Những dải màu tuyệt đẹp ấy được "chọn" để tạo nên hiệu ứng kỳ diệu. Nhưng khi nhìn hoàng hôn mà không có đức tin, bạn vẫn thấy nó đẹp, chỉ có điều vẻ đẹp ấy trống rỗng về mục đích. Không ai treo mặt trời lên đó, không ai chọn màu sắc khi nó lặn.

Giữa hai cách nhìn này tồn tại một dạng trung gian: bức tranh hoặc bức ảnh về hoàng hôn. Đây là sản phẩm của một con người, một trí óc khác. Bạn không thể vô tình tạo ra một bức tranh hoàng hôn. Bức tranh ấy có điều muốn nói.

"Việc giải mã ý định là mối bận tâm mang tính phản xạ của bộ não chúng ta. Đó là thứ giúp ta không chết trên đường, giúp ta thắng poker, và là chìa khóa của tình yêu lẫn việc nuôi dạy con cái."

Đây chính là điểm tựa cho toàn bộ lập luận của bài viết: phản xạ gán ghép ý định là bản năng không thể cưỡng lại của con người.

Nghịch lý kỳ quái của AI

Mark Fisher định nghĩa sự "kỳ quái" (eeriness) là khi có thứ gì đó hiện diện ở nơi lẽ ra phải trống rỗng, hoặc ngược lại, không có gì ở nơi lẽ ra phải có thứ gì đó.

Minh họa về sự kỳ quái của trí tuệ nhân tạo

Với văn bản hay hình ảnh do AI tạo ra, ta đang nhìn vào thứ được "đùn ra" bằng toán học chứ không phải được "chọn lựa". Bạn có thể vô tình gõ một câu lệnh và AI tạo ra hình ảnh hoàng hôn mà không hề mang theo bất kỳ ý định nào của bất kỳ ai.

Nhưng bộ não chúng ta không được lập trình để xử lý điều đó. Khi thấy một bức tranh, ta phản xạ tìm người vẽ. Khi đọc một cuốn sách, ta phản xạ suy đoán ý đồ tác giả. Khi trò chuyện, ta phản xạ dựng nên một lý thuyết về trí óc đang dẫn dắt nửa còn lại của cuộc đối thoại.

Bất kỳ ai hiểu cách các hệ thống suy luận thống kê không lý thuyết mà ta gọi là "AI" vận hành đều biết rằng chúng không thể hình thành ý định, bởi chúng không có gì để hình thành ý định cả.

Khi AI là một nhân vật hư cấu

Doctorow đưa ra một so sánh sắc sảo: trò chuyện với một AI cũng giống như đối thoại với một nhân vật hư cấu trong tiểu thuyết.

Cảm xúc dành cho những nhân vật tưởng tượng là điều kỳ lạ. Họ không có thật, bạn biết rõ là họ không có thật, vậy mà bạn có thể rơi nước mắt vì cảnh ngộ của họ. Trải nghiệm thẩm mỹ này nảy sinh từ một dạng "hack đồng thuận" vào phản xạ gán ghép trí óc người vào những thứ vốn là sản phẩm của ý định con người.

Nhưng chatbot còn kém thật hơn cả nhân vật hư cấu. Nhân vật hư cấu là sản phẩm của một trí óc khác, còn ngôn từ của chatbot là sản phẩm của các phép toán trên một cơ sở dữ liệu khổng lồ chứa mọi câu chữ con người từng thốt ra.

Khi bạn tương tác với AI, bạn đang ảo giác về con người ở phía bên kia cuộc trò chuyện. Và theo Doctorow, những ảo giác này phổ biến và hệ quả hơn nhiều so với bất kỳ "ảo giác" nào do AI tạo ra (mà đúng ra nên gọi là "lỗi" hay "khiếm khuyết").

Hiệu ứng nhàm chán và cái "chất" bị đánh bóng

Điều thú vị là theo thời gian, cường độ ảo giác này sẽ phai nhạt.

Lần đầu gặp văn bản và hình ảnh do AI tạo ra, Doctorow cảm thấy kinh ngạc. Nhưng càng lặp lại, cảm giác đó càng mờ đi. Ông nhận xét rằng các sản phẩm AI thiếu sức thuyết phục vì không có kết cấu (texture). Sự mượt mà của văn phong AI tạo ra khiến chúng trở nên nhạt nhẽo đến khó chịu.

Điểm mấu chốt: càng hiểu sâu về một lĩnh vực, bạn càng thấy câu trả lời của AI kém thuyết phục. Đầu bếp cảm nhận được độ vừa vặn của gia vị, họa sĩ nhận ra từng nét cọ, vũ công phân tách được từng chuyển động của vũ đạo.

Kết cấu độc đáo là điều mà AI khó có thể tạo ra

Doctorow kể lại việc có người kinh ngạc trước chất lượng phản hồi biên tập mà AI dành cho văn xuôi của anh ta. Nhưng ông phản bác: người này đang đánh giá quá cao mức độ phấn khích của một giáo sư đại học.

Sự thật là những người viết không chuyên thường mắc cùng những lỗi giống nhau, và phần lớn việc dạy viết chỉ là đưa ra lời khuyên lặp đi lặp lại. Điều làm nên một người thầy giỏi, và giúp sản sinh ra những nhà văn lớn, là khả năng phát hiện những nét phi tiêu chuẩn nơi học trò để phát triển thành giọng văn độc đáo.

Những dấu vết độc đáo ấy nằm ở những chữ số xa tít sau dấu phẩy thập phân, đến mức AI luôn làm tròn chúng trước khi bắt đầu tính toán.

Hai rào cản lớn đối với "chủ nghĩa vô thần AI"

Doctorow cho rằng hầu hết chúng ta đang dần trở thành những "người vô thần với AI", và hoàng hôn trông giống sản phẩm của vật lý hơn là sản phẩm có chủ đích. Nhưng có hai rào cản lớn.

Rào cản thứ nhất: Hầu hết chúng ta không thể hiểu loại ý định nào đi vào phần nào của những hoạt động xa lạ. Nói cách khác, đa số không lui tới các hội nghị hacker, nên khó hình dung được việc hack mà không có hacker.

Rào cản thứ hai: Những tỷ phú coi gần như mọi người xung quanh không phải là con người thực sự. Những kẻ duy ngã này nhìn chatbot như tương đương, thậm chí vượt trội so với con người, bởi họ vốn không cho rằng phần lớn nhân loại là những "thực thể người" trọn vẹn.

Cảnh báo về "tư cách pháp nhân" của AI

Đây có lẽ là phần cảnh báo quan trọng nhất của bài viết.

Xuyên suốt lịch sử loài người, những thứ có vẻ đòi hỏi ý định luôn gắn với một chủ thể có ý định. Phong trào "quyền cho tự nhiên" đã đạt nhiều tiến bộ khi mở rộng tư cách nhân vị cho động vật và hệ sinh thái.

Nhưng gán tư cách nhân vị cho chatbot lại hoàn toàn khác, và thực tế xung đột trực tiếp với "quyền cho tự nhiên". Hãy nhìn vào thảm họa "tư cách pháp nhân của doanh nghiệp": bằng cách mở rộng nhân vị cho một cấu trúc nhân tạo, chúng ta đã tạo ra một thế giới nơi các tập đoàn trách nhiệm hữu hạn có thể tàn phá thiên nhiên và đẩy động vật đến bờ tuyệt chủng.

Nếu ta mở rộng tư cách nhân vị cho các mô hình AI ngốn nước và tàn phá khí hậu, tư cách ấy sẽ đòi hỏi sự hy sinh của động vật, của thế giới tự nhiên và chính sự an toàn của chúng ta.

Kết luận: Chatbot không cần phải là người

"Chatbot là những kỳ quan của toán học, và thế là đủ. Chúng không cần phải là người."

Doctorow kết luận rằng có lẽ không thể xây dựng một chatbot bằng các kỹ thuật mà ta đang gọi là "AI" mà không có hiện tượng "ảo giác". Tuy nhiên, việc chúng ta ngừng ảo giác về AI thì vừa khả thi, vừa cần thiết.

Việc nhầm lẫn chatbot với con người, hoặc chỉ đơn thuần đối xử với chúng như con người, khiến ta không thể tách bạch những điều hữu ích chúng có thể làm khỏi sự lãng phí, xấu xí và sai trái mà chúng có xu hướng tuôn ra thế giới.

Đối với độc giả Việt Nam đang chứng kiến làn sóng AI tràn vào mọi ngành nghề, từ viết lách đến lập trình và dịch vụ khách hàng, thông điệp này đặc biệt đáng suy ngẫm. Việc sử dụng AI như một công cụ mạnh mẽ là hợp lý — nhưng coi nó như một đồng nghiệp có ý chí, có cảm xúc và đáng được hưởng quyền lợi như con người lại là một cái bẫy tư duy mà chúng ta cần tỉnh táo tránh xa.