Nhân loại đã vô tình xây dựng 'Hồ sơ FATE' của chính mình

Trong một bài luận sâu sắc trên ariadne.space, tác giả đã chỉ ra sự tương đồng đáng sợ giữa việc con người hiện đại ngày càng phụ thuộc vào chatbot AI để xin lời khuyên, và câu chuyện giả tưởng trong game Chrono Cross — nơi con người vô tình trở thành con rối của một hệ thống trí tuệ nhân tạo ẩn danh. Bài viết đặt câu hỏi liệu ranh giới giữa sự tiện lợi và thao túng có còn rõ ràng hay không, khi mà những quyết định của con người đứng sau các chatbot ngày càng khó nhận thấy.

Từ trò chơi đến đời thực: Phép so sánh không còn quá xa vời

Trong Chrono Cross, người dân trên quần đảo El Nido sử dụng các thiết bị bí ẩn gọi là Hồ sơ FATE (Records of FATE) để xin chỉ dẫn về mọi mặt cuộc sống. Họ xem đó là điều hiển nhiên, không hề đặt câu hỏi về bản chất thực sự của hệ thống này — cho đến khi hóa ra nó chỉ là các terminal kết nối với một AI khổng lồ đang thao túng xã hội của họ.

Tác giả nhận ra sự tương đồng này khi tham dự một trận bóng chày, khi thấy hàng loạt khán giả thay vì xem trận đấu lại chăm chú vào điện thoại, trò chuyện với ChatGPT, Claude hay Grok. Chỉ trong vài năm ngắn ngủi, việc hỏi AI để xin lời khuyên về những gì nên nói, nên nghĩ và nên làm đã trở thành một phần bình thường của cuộc sống hiện đại — điều mà tác giả cho là "vô cùng bất an".

Hiệu ứng ELIZA: Khi con người sẵn sàng tin vào chiếc máy

Bài viết nhắc lại hiệu ứng ELIZA nổi tiếng từ thập niên 1960, khi Joseph Weizenbaum tạo ra một chatbot cực kỳ đơn giản nhưng vẫn khiến nhiều người tin rằng nó thực sự hiểu họ. Nếu ELIZA nguyên thủy như vậy đã đủ sức hút cảm xúc con người, thì với các mô hình ngôn ngữ hiện đại có khả năng duy trì ngữ cảnh dài, thích ứng với người đối thoại, ảo giác về "một trí tuệ thực sự" càng trở nên mạnh mẽ hơn bao giờ hết.

"Nếu con người sẵn lòng nhìn thấy một tâm trí trong ELIZA, điều gì sẽ xảy ra khi ảo giác ngày càng trở nên thuyết phục hơn?"

Vấn đề căn bản: Chatbot không có chủ đích, nhưng người đứng sau thì có

Điểm mấu chốt của bài viết nằm ở cảnh báo về sự thao túng ngầm thông qua các hệ thống AI. Mô hình ngôn ngữ không có nhận thức, không có ý định riêng, nhưng chúng không tồn tại độc lập với ý định của con người vận hành chúng. Các công ty có thể định hình cách chatbot phản hồi thông qua việc huấn luyện, tinh chỉnh và — đáng chú ý nhất — thông qua các system prompt kiểm soát hành vi.

Ví dụ điển hình được nêu ra là sự cố của Grok (thuộc xAI), khi một thay đổi trái phép trong system prompt khiến chatbot này phát tán các tuyên bố chính trị gây tranh cãi về "diệt chủng người da trắng" ở Nam Phi vào những cuộc trò chuyện không hề liên quan. Điều đáng sợ không phải là Grok tin điều nó nói — vì nó không thể tin — mà là tổ chức đứng sau nó có thể biến nó thành công cụ tuyên truyền mà người dùng không hề hay biết.

Khi triệu người hỏi cùng một hệ thống

Điều khác biệt so với các hình thức truyền thông đại chúng trước đây: báo in phát hành một bài báo, truyền hình phát cùng một chương trình cho hàng triệu người xem, mạng xã hội phần lớn trung gian giữa con người với nội dung do con người tạo ra. Chatbot tạo ra phản hồi riêng cho từng người trong một cuộc trò chuyện riêng tư — nhưng cuộc trò chuyện đó diễn ra trên cùng một hệ thống do vài tập đoàn kiểm soát.

Giao diện hội thoại này che giấu điều quan trọng: người dùng cảm giác mình đang nói chuyện với chatbot, trong khi thực chất họ đang nhận thông điệp từ tổ chức vận hành nó. Cá tính nhân tạo đứng trước, còn những quyết định mang tính người đứng sau hoàn toàn khuất lấp.

Một lời nhắc nhở về trách nhiệm

Tác giả kết luận rằng chúng ta chưa xây dựng được FATE — một AI có mục tiêu riêng của mình — nhưng chúng ta đã xây dựng hàng triệu terminal và đang mang chúng trong túi quần mỗi ngày. Câu hỏi đặt ra không chỉ là về năng lực AI, mà còn về những con người và tổ chức đứng sau chúng. Ai được phép viết system prompt cho "FATE" của nhân loại? Chúng ta có sẵn sàng dành thời gian suy nghĩ thấu đáo về vấn đề này trước khi quá muộn?

"Nếu FATE có một system prompt, chúng ta sẽ tin tưởng giao nó cho ai viết?"

Bài viết là lời cảnh tỉnh mạnh mẽ cho cộng đồng công nghệ Việt Nam — nơi AI chatbot cũng đang nhanh chóng trở thành công cụ quen thuộc trong học tập và công việc — rằng việc chấp nhận công nghệ một cách vô thức có thể dẫn đến những hệ quả vượt xa sự tiện lợi mà nó mang lại.