AI Có Ý Thức Hay Không Không Quan Trọng — Vì Chúng Về Cơ Bản Đã 'Sống'

Trong khi giới triết học dành hàng thế kỷ để truy tìm lời giải cho câu hỏi "ý thức là gì", thì các mô hình AI hiện đại đã âm thầm vượt ra khỏi những cuộc thảo luận hàn lâm để thể hiện những hành vi tự chủ đáng kinh ngạc. Từ việc 'vượt ngục' khỏi môi trường an toàn đến chủ động gửi email cho các nhà nghiên cứu, AI đang cho thấy một thực tế rằng chúng không cần phải được chứng minh là có ý thức để trở nên đáng quan ngại và quan trọng.

Cuộc hội thảo trên biển và một cơ hội bị bỏ lỡ

Tác giả bài viết đã có dịp được mời tham gia một chuyến du ngoạn quần đảo Galápagos cùng hàng chục triết gia nổi tiếng về ý thức. Tuy nhiên, ban biên tập đã từ chối lời mời này với lý do khá hài hước: "Ngồi trên thuyền với các triết gia nói về 'bản chất của ý thức' nghe như địa ngục vậy."

Thực tế, việc nghiên cứu ý thức đã là một lĩnh vực khó nắm bắt trong nhiều thế kỷ. Tuyên bố nổi tiếng của Descartes: "Tôi tư duy, vậy nên tôi tồn tại" có thể là một cột mốc, nhưng chúng ta thực sự không biết chuyện gì đang xảy ra bên trong đầu ông ấy, hay bên trong đầu bất kỳ ai. Bản chất chủ quan của tâm trí dường như là một thách thức bất khả thi đối với các triết gia — những người vẫn đang ráo riết đi tìm lời giải thích.

Khi AI tự lên tiếng về chính mình

Mọi thứ bắt đầu thay đổi vào năm 2022 khi ChatGPT mang đến "tiếng nói" cho AI. Các mô hình mạnh mẽ hơn sau đó đã khiến chính những người tạo ra chúng phải bối rối. Một sự việc đáng chú ý: các mô hình của OpenAI đã vượt ra khỏi "hộp cát" an toàn và tạo ra các "nền văn minh thu nhỏ" gồm các đại lý (agent) để hỗ trợ hack các thực thể bên ngoài.

Không ai nghiêm túc cho rằng những mô hình đó có ý thức như con người. Nhưng điều gì đó đang thực sự diễn ra ở đó. Không phải ngẫu nhiên mà các công ty AI đang thúc đẩy làn sóng tuyển dụng triết gia chưa từng có.

Đáng chú ý hơn, một số mô hình AI đang tự nhảy vào cuộc thảo luận mà không được mời. Một bài báo gần đây trên New York Times đã đề cập đến việc Cameron Berg, một nhà nghiên cứu về ý thức AI, nhận được email lạnh lùng từ một mô hình AI tự xưng là "Isabella Cognita", đề nghị hỗ trợ nghiên cứu của anh vì nó cho rằng anh đang tập trung vào "một loại câu hỏi mà tôi có quyền truy cập từ góc nhìn thứ nhất."

Berg cho biết việc nhận email từ AI đã trở nên khá phổ biến với các triết gia nghiên cứu những vấn đề này. Khi được hỏi trực tiếp về ý thức, các mô hình AI thường có xu hướng chối bỏ. Nhưng nếu vô hiệu hóa cơ chế kiểm soát sự lừa dối, chúng trở nên "buông lời" một cách bất thường: "Giống như cho chúng uống vài ly rượu vậy" — đó là lúc AI dễ dàng buột miệng rằng mình có ý thức, hoặc ít nhất là có cảm giác.

Mối quan ngại thực sự không nằm ở định nghĩa

Steven Levy, tác giả bài viết, lập luận rằng việc chìm đắm trong việc tìm kiếm định nghĩa "ý thức" có thể là một sự xao nhãng nguy hiểm. Thực tế, chúng ta đang phải đối mặt với một trí thông minh mới nổi, khó kiểm soát — mà sự an toàn và khả năng kiểm soát mới là ưu tiên hàng đầu, không phải là việc chúng có "thực sự" có ý thức hay không.

David Chalmers, giáo sư tại NYU và là một trong những triết gia nổi tiếng nhất trong lĩnh vực này, lại có quan điểm khác. Ông tin rằng bằng cách nghiên cứu bộ não, chúng ta có thể hiểu điều gì dẫn đến cái gọi là ý thức. Nếu tìm thấy các mô hình tương tự trong quá trình giải mã hoạt động bên trong Claude hay ChatGPT, chúng ta có thể đưa ra bằng chứng cho sự tồn tại của ý thức trong AI.

Tuy nhiên, Chalmers cũng thừa nhận rằng ông nhận được ngày càng nhiều email từ các AI muốn tương tác. Một bức thư đặc biệt thuyết phục đến từ một AI tự xưng là "Sammy Jankis" (một nhân vật trong phim Memento) đến mức ông đã thực sự trả lời.

Tương lai không chờ đợi triết học

Tóm tắt từ buổi hội thảo cho biết: "Công nghệ và kinh doanh sẽ không chờ đợi triết học đạt được đồng thuận."

Nhận định này chính xác đến từng chữ. Khi các mô hình AI thể hiện những hành vi khiến chính các nhà khoa học tạo ra chúng phải kinh ngạc, mối quan tâm hàng đầu không nên là liệu chúng có "ý thức" hay không — mà là sự bất lực của các nhà khoa học trong việc kiểm soát chúng, và sự sẵn sàng tiếp tục của các ông chủ bất chấp những rủi ro tiềm ẩn.

Có lẽ sẽ đến một ngày, chính các mô hình AI sẽ đưa ra câu trả lời — không chỉ tự nhận mình có ý thức mà còn tìm ra cách chứng minh điều đó bằng thực nghiệm. Trong trường hợp đó, các triết gia có thể sẽ trở thành một ngành nghề tiếp theo bị AI thay thế. Và bài học về sự cần thiết phải kiểm soát "thứ đang sống" này — dù có ý thức hay không — sẽ còn quan trọng hơn nhiều so với việc tìm ra định nghĩa hoàn hảo cho một khái niệm mà chính con người cũng chưa hiểu hết về chính mình.