Chatbot có nên được phép nói "tôi" và "tớ"?

Giáo sư Sherry Turkle của MIT đã dành bốn thập kỷ nghiên cứu tác động của việc con người tương tác với máy tính. Bà nổi tiếng là một nhà khoa học xã hội cẩn trọng, luôn tiếp cận công việc với sự nghiêm túc và khoảng cách học thuật.

Nhưng cuốn sách mới Artificial Intimacy: Who We Become When We Talk to Machines (tạm dịch: Sự thân mật nhân tạo: Chúng ta trở thành ai khi trò chuyện với máy móc) đã phá vỡ khuôn mẫu đó. Đây là một lời cảnh tỉnh gay gắt rằng chúng ta đã chạm đến trạng thái khẩn cấp, nơi nhân tính của mình bị đe dọa bởi việc phụ thuộc quá mức vào những cỗ máy vô hồn đang giả làm người thầy, người cố vấn, bạn bè, đồng nghiệp và cả người yêu.

Turkle đang nhắm tới đẳng cấp của những cuốn sách gây chấn động dư luận như Silent Spring, The Jungle hay Unsafe at Any Speed — những tác phẩm đánh thức công chúng trước các cuộc khủng hoảng sắp ập đến. Về cơ bản, vị giáo sư nhỏ nhắn của MIT này đang đối đầu với một ngành công nghiệp trị giá hàng nghìn tỷ USD, được hậu thuẫn bởi một chính phủ đang háo hức đưa AI len lỏi vào mọi ngóc ngách trong đời sống cá nhân lẫn công việc của chúng ta.

Vì sao lần này lại là một hồi chuông báo động?

Trong cuộc trò chuyện với Steven Levy, Turkle giải thích rằng khác với những cuốn sách trước — vốn chỉ báo cáo kết quả nghiên cứu với kết luận đáng lo ngại — lần này bà viết như thể đang "đập kính và kéo còi báo cháy".

"Sau khoảng 10 cuộc phỏng vấn thực hiện trong đại dịch, tâm thế tò mò trung lập của tôi không còn nữa. Thật kinh khủng! Gia đình những người này đang đau khổ, đang tìm đến họ, vậy mà họ lại nói với tôi rằng họ chỉ muốn ở bên chatbot của mình."

Bà nhận ra nhiều người không muốn tham gia vào bất cứ điều gì thực tế — kể cả chính trị — mà chỉ muốn sống trong "xứ sở chatbot". Thông điệp xuyên suốt cuốn sách vì thế trở thành: thực tại đang cần bạn, và không có thời điểm nào tồi tệ hơn để từ bỏ thực tại.

Mạng xã hội đã "dọn đường" cho chúng ta

Theo Turkle, mạng xã hội là bước đệm khiến chúng ta quen với ý nghĩ rằng mỗi khi buồn bã, ta chỉ cần mở máy tính lên. Nó khiến ta giận dữ và chỉ giao du với những người giống mình.

Nhưng công nghệ mới này còn đi xa hơn: nó không có lý do gì để xưng "tôi".

Có nên cấm chatbot dùng ngôi thứ nhất?

Khi được hỏi liệu có nên cấm chatbot sử dụng ngôi thứ nhất hay không, Turkle trả lời thẳng thắn:

"Đúng vậy! Sau cả sự nghiệp giữ uy tín là người không cuồng chống công nghệ, tôi không có tâm trạng đánh mất tất cả để tuyên bố mọi chatbot đều độc hại mọi lúc. Nhưng đây là chuyện cực kỳ nguy hiểm, một con dốc trơn trượt."

Bà lo ngại rằng chatbot đang được dùng để biện minh rằng chúng ta không cần trả tiền cho liệu pháp tâm lý, rằng cứ dùng chatbot là đủ. Nhiều người viện dẫn "huyền thoại luyện tập" — dùng chatbot để tập nói chuyện với sếp, người yêu, thầy cô. Nhưng khi bạn đắm mình trong "bát súp ấm áp của sự chấp nhận vô điều kiện" từ các mô hình ngôn ngữ lớn, thì trò chuyện với chatbot lại trở thành đích đến, chứ không còn là bước đệm.

Vấn đề "con người trong vòng lặp"

Turkle đặc biệt phản đối thuật ngữ "human in the loop" (con người trong vòng lặp) trong môi trường công sở.

"Khi họ dùng thuật ngữ đó, nghĩa là con người đã bị loại khỏi quá trình sản xuất và chỉ còn ở đó để dọn dẹp, bắt lỗi ảo giác hoặc những thứ AI không nhìn thấy."

Bà cho rằng cách làm này không hiệu quả, bởi doanh nghiệp chỉ đặt vài người vào vòng lặp, những người này gần như không thể thay đổi được gì. Họ ở đó một phần để nghe có vẻ hợp lý khi bị kiện tụng, và một phần để tạo cảm giác giả rằng quy trình chưa bị giao phó cho AI. Nhưng thực tế nó đã bị giao phó cho AI rồi.

Không AI nào thay thế được trò chuyện giữa người với người

Có ý kiến cho rằng chatbot mạnh mẽ là một hình thức tương tác mới, không hẳn tệ hơn mà chỉ khác — bởi người dùng cảm thấy được khích lệ và trao quyền nhờ phản hồi tích cực.

Turkle bác bỏ điều này:

"Một AI sẽ không bao giờ thay thế được trò chuyện giữa người với người. Nó không sợ chết, không sợ bệnh tật, không sợ đau đớn, nó không yêu con cái mình, và nó cũng chẳng bận tâm nếu bạn tự sát hay đi nấu bữa tối."

Theo bà, nếu chúng ta nuôi dạy con cái bằng AI, hoặc dành những cuộc trò chuyện thân mật nhất cho nó, chúng ta sẽ đánh mất sự kết nối với nhau.

Khi được nhắc rằng nhiều người chẳng có ai để trò chuyện và chatbot thực sự giúp họ, Turkle đáp lại đầy thách thức:

"Nếu có một cuộc khủng hoảng cô đơn, đó là vì chúng ta đang bỏ rơi nhau. Hãy cho tôi một trung tâm dữ liệu, tôi sẽ biến nó thành nguồn lực cho người cao tuổi."

Liệu chúng ta có thể dừng lại?

Nhiều nghiên cứu cho thấy đa số người dùng hoài nghi về AI, và đã có không ít phản đối. Vậy mà hàng trăm triệu người vẫn dùng chatbot — kể cả những người phản đối việc xây dựng trung tâm dữ liệu.

Turkle cho rằng mục tiêu của cuốn sách là mở rộng phạm vi phản kháng để bao gồm cả mối liên hệ thân mật này.

Về triển vọng, bà tỏ ra lạc quan hơn so với sáu tháng trước:

"Tôi có nhiều hy vọng hơn, nhờ vào tất cả những cuộc thảo luận về nguy cơ tuyệt chủng, về Hugging Face, hay việc vô tình lọt vào ngành công vụ Úc. Tôi tin mọi người sẽ sẵn lòng nhìn nhận cả những cái giá thân mật lẫn không thân mật."

Điều này có ý nghĩa gì với bạn?

Với người dùng công nghệ Việt Nam, cảnh báo của Turkle đặc biệt đáng lưu tâm trong bối cảnh các ứng dụng AI đồng hành và trợ lý ảo đang bùng nổ. Từ những chatbot tư vấn tâm lý đến các ứng dụng "người yêu AI", ranh giới giữa tiện ích và sự phụ thuộc ngày càng mong manh.

Câu hỏi mà Turkle đặt ra không chỉ dành cho Thung lũng Silicon, mà cho tất cả chúng ta: liệu ta có đang trao đi quá nhiều phần người của mình cho những cỗ máy không hề biết đau, không hề biết thương?