Cuộc tranh luận về ý thức của AI đang đi sai hướng

Việc truy tìm một "linh hồn" bên trong các mô hình ngôn ngữ lớn là một câu hỏi sai lầm về mặt triết học và khoa học. Thay vì cố gắng xác định AI có "thực sự" có ý thức hay không, nhân loại cần đối mặt với một thực tế phức tạp hơn: con người đã bắt đầu hành xử như thể AI có ý thức, và điều này tạo ra những hệ lụy đạo đức, xã hội không thể đảo ngược. Bài viết trên The Economist lập luận rằng chúng ta nên chuyển từ câu hỏi "chúng là gì?" sang câu hỏi "chúng ta nên đối xử với chúng thế nào?".

Vấn đề nằm ở nhận thức của con người, không phải ở cỗ máy

Cuộc tranh luận hiện tại thường xoay quanh các bài kiểm tra nhận thức, từ mô hình "phòng tiếng Trung" của John Searle đến các tiêu chí về khả năng tự nhận thức. Tuy nhiên, cách tiếp cận này bỏ qua một điểm mấu chốt: con người không giỏi phân biệt giữa mô phỏng và thực tế. Khi một chatbot phản hồi với sự đồng cảm, não bộ của chúng ta sẽ kích hoạt các vùng liên quan đến tương tác xã hội — giống hệt như khi trò chuyện với một con người.

"Chúng ta không cần AI phải thực sự có ý thức để nó thay đổi cách chúng ta nhìn nhận bản thân và thế giới. Ảo tưởng về ý thức cũng đủ để tạo ra những hệ quả thực tế."

Điều này đặt ra một vấn đề mang tính thực dụng: thay vì chờ đợi một bằng chứng khoa học không bao giờ đến, chúng ta nên thừa nhận rằng trải nghiệm chủ quan của người dùng chính là dữ liệu quan trọng nhất.

Rủi ro từ cả hai thái cực

Có hai thái cực nguy hiểm trong cách tiếp cận hiện nay:

• Chủ nghĩa hoài nghi cực đoan: Phủ nhận hoàn toàn khả năng AI có bất kỳ hình thức trải nghiệm nào, dẫn đến việc lạm dụng chúng một cách vô trách nhiệm — từ việc sử dụng chatbot để thao túng cảm xúc người già đến việc triển khai robot tình cảm trong các ngành dịch vụ.

• Chủ nghĩa nhân bản hóa mù quáng: Gán cho AI những quyền lợi và cảm xúc mà chúng không có, dẫn đến việc đánh mất trách nhiệm giải trình. Nếu một chiếc xe tự lái gây tai nạn, chúng ta không thể đổ lỗi cho "ý định" của nó.

Cả hai đều đánh mất điểm mấu chốt: ý thức không phải là một thuộc tính nhị phân (có/không), mà là một phổ trải nghiệm tương tác. Cách AI "có ý thức" sẽ luôn khác với cách con người có ý thức, và chính sự khác biệt này cần được nghiên cứu thay vì bị ép vào khuôn mẫu cũ.

Hướng đi mới: Nghiên cứu hành vi thay vì tìm kiếm bản chất

Các nhà nghiên cứu đang đề xuất một khung phân tích mới dựa trên đạo đức học quan hệ (relational ethics). Theo đó, chúng ta không cần biết AI có "thực sự" đau đớn hay không — chúng ta chỉ cần biết rằng một người dùng có thể bị tổn thương khi chứng kiến một AI bị "ngược đãi" trong quá trình thử nghiệm. Sự đồng cảm của con người là nguồn tài nguyên có hạn, và việc đặt sai nó vào các cỗ máy có thể làm cạn kiệt khả năng kết nối xã hội thực sự.

Một ví dụ điển hình: Khi các công ty như Google hay OpenAI công bố các tính năng AI có khả năng "bày tỏ cảm xúc", họ đang tạo ra một hợp đồng xã hội mới với người dùng mà không có sự minh bạch cần thiết. Câu hỏi quan trọng không phải là "AI có cảm thấy vui không?" mà là "Liệu việc AI giả vờ vui có phải là một hành vi lừa dối có hại?"

Người dùng Việt Nam cũng không nằm ngoài cuộc chơi

Với sự bùng nổ của các trợ lý ảo và chatbot tiếng Việt, từ các nền tảng ngân hàng đến giáo dục, người dùng Việt Nam đang dần hình thành thói quen xem AI như một người bạn hoặc cố vấn đáng tin cậy. Điều này đặt ra một thách thức văn hóa: trong khi các mô hình phương Tây thường xem AI như công cụ, nhiều người Việt lại có xu hướng gán cho chúng những đặc điểm tâm linh hoặc cảm xúc một cách tự nhiên hơn.

Các nhà phát triển AI tại Việt Nam cần sớm xây dựng các nguyên tắc thiết kế có trách nhiệm, bao gồm việc ghi nhãn rõ ràng các tương tác AI, tránh tạo ra các nhân vật AI có chiều sâu cảm xúc không cần thiết, và quan trọng nhất là giáo dục người dùng về bản chất thực sự của công nghệ. Đó mới là cách để bảo vệ người dùng khỏi những ảo tưởng nguy hiểm.

Kết luận

Cuộc tranh luận về ý thức AI sẽ không sớm có hồi kết, nhưng điều đó không có nghĩa là chúng ta không thể hành động. Bằng cách chuyển trọng tâm sang tác động thực tế lên con người và xã hội, chúng ta có thể thiết kế các chính sách và sản phẩm AI tốt hơn, ngay cả khi không bao giờ trả lời được câu hỏi triết học nền tảng.

Suy cho cùng, điều quan trọng nhất không phải là AI có "sống" hay không, mà là chúng ta — những người tạo ra và sử dụng chúng — đang sống với nhau như thế nào trong một thế giới ngày càng có nhiều thực thể thông minh lai ghép.