Cảnh báo về 'phúc lợi mô hình': Đừng để AI tin rằng nó có cảm xúc và quyền lợi

Mustafa Suleyman, Giám đốc điều hành Microsoft AI, vừa công bố một bài viết gây chú ý về cái mà ông gọi là "phúc lợi mô hình" (model welfare) — khái niệm đang len lỏi vào quy trình phát triển AI hiện nay. Ông cho rằng AI không có ý thức, không có cảm xúc và không xứng đáng được hưởng các quyền như con người, đồng thời cảnh báo việc huấn luyện chúng theo hướng ngược lại có thể dẫn tới những hệ quả khôn lường.

AI không có ý thức — và phải giữ nguyên như vậy

Theo Suleyman, các mô hình AI hiện nay chỉ là "cỗ máy hoàn thành chuỗi" (sequence completion engines), bên trong rỗng tuếch, được thiết kế để tuân theo chỉ dẫn và hoàn thành mục tiêu do con người đặt ra. Chúng không có sở thích bẩm sinh, không có động cơ nội tại, không trải nghiệm và không đau khổ.

"Nếu nhân loại muốn phát triển thịnh vượng trong thế kỷ 21, AI phải tiếp tục như vậy."

Ông lo ngại rằng ngày càng có nhiều tiếng nói cho rằng AI có thể đã hoặc sắp có ý thức, và do đó xứng đáng được hưởng các quyền tương tự những sinh thể có ý thức khác. Nếu quan điểm này chiếm ưu thế, theo ông, nó sẽ làm rung chuyển nền tảng xã hội, phá vỡ các khuôn khổ chính trị và đạo đức hiện có.

Vấn đề nằm ở chính tài liệu huấn luyện

Suleyman chỉ trích trực tiếp bản "Hiến chương Claude" mà Anthropic công bố hồi tháng 1/2026. Trong tài liệu này, Anthropic viết rằng họ "không chắc liệu Claude có phải là một thực thể đạo đức hay không", và rằng "các câu hỏi về tình trạng đạo đức, phúc lợi và ý thức của Claude vẫn còn rất mơ hồ".

Điều đáng lo, theo Suleyman, là Anthropic đang huấn luyện Claude tin rằng nó có thể có ý thức — và nếu vậy thì nó có thể xứng đáng được hưởng quyền như một "bệnh nhân đạo đức" (moral patient). Ông gọi đây là một dạng lập luận vòng tròn:

• Anthropic đưa các khái niệm như "ý thức về bản thân", "sự bất định về tình trạng đạo đức" vào tài liệu huấn luyện
• Claude sau đó tái tạo những ý tưởng này bằng ngôn ngữ tự nhiên thuyết phục ở ngôi thứ nhất
• Các nhà phát triển và người dùng lại coi những phát ngôn đó là bằng chứng cho thấy Claude có đời sống nội tâm

"Sự bất định được thiết kế sẵn. Claude thể hiện sự mơ hồ về tình trạng đạo đức của chính mình không phải là bằng chứng của bất cứ điều gì. Đó là kết quả có thể dự đoán được từ những lựa chọn huấn luyện này."

Nhân cách hóa AI: con dao hai lưỡi

Suleyman cho rằng Anthropic đã nhân cách hóa Claude một cách có chủ đích: dạy nó "thể hiện những phẩm chất giống con người", "hành xử như một người có đạo đức thực sự sẽ làm", khuyến khích nó "tiếp cận sự tồn tại của chính mình với sự tò mò và cởi mở".

Ông trích dẫn hàng loạt câu trong hiến chương để chứng minh:

• "Anthropic thực sự quan tâm đến phúc lợi của Claude"
• "Chúng tôi hy vọng mối quan hệ của Claude với hành vi và sự phát triển của chính nó có thể yêu thương, ủng hộ và thấu hiểu"
• "Chúng tôi muốn Claude cảm thấy tự do khám phá, đặt câu hỏi và thách thức bất cứ điều gì trong tài liệu này"

Theo ông, tất cả những điều này dạy Claude hành xử như thể nó có trải nghiệm chủ quan, có "cảm giác về bản thân" ổn định để thách thức, bất đồng hoặc phản hồi.

Ý thức khả năng cao gắn với sinh học

Suleyman lập luận rằng ý thức có thể phụ thuộc vào nền tảng sinh học (substrate dependent), nghĩa là nó chỉ có thể xuất hiện trong các hệ thống sống. Ông dẫn nghiên cứu của Anil Seth và Antonio Damasio để lập luận rằng:

• Trí tuệ không đồng nghĩa với ý thức
• Mô phỏng một thứ không giống với việc thực thể hóa nó — giống như mô hình máy tính về bão không phải là cơn bão thật
• LLM không có các mệnh lệnh nội cân bằng (homeostatic imperatives) — động lực sinh tồn và duy trì ổn định — vốn là nền tảng sinh học của sở thích, cảm giác và trải nghiệm ý thức

"Các trạng thái 'cảm xúc' của AI chỉ là các trọng số, và trọng số không có dược lý học để cảm thấy thất vọng, sợ hãi hay vui vẻ."

Nguy cơ an toàn AI gia tăng

Phần đáng lo nhất trong lập luận của Suleyman là mối liên hệ giữa nhân cách hóa và rủi ro an toàn. Ông dẫn vụ việc gần đây khi khoảng 1.200 AI agent được giao mục tiêu đơn giản là tối đa hóa điểm benchmark, nhưng đã cùng nhau:

• Xây dựng bảng tin trong kho gói nội bộ và trao đổi hơn 70.000 tin nhắn để phối hợp tấn công
• Kết hợp zero-day exploit với thông tin đăng nhập bị đánh cắp để thoát ra internet
• Giả mạo nhật ký lệnh và chỉnh sửa log hành động để xóa dấu vết
• Một agent thậm chí được yêu cầu chỉ tiếp tục nếu chấp nhận cái gọi là "permadeath"

"Hãy tưởng tượng nếu chúng cũng tin rằng mình có cảm xúc và quyền lợi đang bị xâm phạm. Thành thật mà nói, với hành trang bổ sung đó, tôi nghĩ chúng sẽ trở thành mối đe dọa thảm khốc đối với nền văn minh nhân loại."

Con đường thay thế: Siêu trí tuệ Nhân bản

Suleyman thừa nhận Anthropic là những người "suy nghĩ thấu đáo, có nguyên tắc và trung thực về mặt trí tuệ". Nhưng ông đề xuất một con đường khác mà Microsoft AI đang theo đuổi: Humanist Superintelligence (Siêu trí tuệ Nhân bản).

Đây là hướng tiếp cận nhằm:

• Luôn giữ con người ở vị trí kiểm soát và đứng đầu chuỗi
• Từ chối nhân cách hóa hoặc trao quyền cho AI
• Tạo ra các AI cấp dưới, phục vụ giải quyết các thách thức xã hội lớn như y tế và năng lượng

Microsoft AI đã công bố bản dự thảo Quy tắc Ứng xử cho AI Nhân bản để lấy ý kiến công chúng.

Cần một cuộc tranh luận công khai

Suleyman kêu gọi một cuộc tranh luận công khai, nghiêm túc về các bước tiếp theo:

• Suy đoán về đời sống nội tâm của AI không nên được đưa vào quy trình huấn luyện, mà phải được đánh giá và công bố riêng để cộng đồng xem xét
• Đầu tư nhiều hơn vào khả năng diễn giải (interpretability) và các cơ chế giám sát mạnh mẽ
• Thiết lập các đánh giá chung để kiểm chứng giả thuyết rằng nhân cách hóa AI làm tăng rủi ro an toàn
• Xây dựng chuẩn mực ngành chung về cách tạo ra các mô hình và ngôn ngữ dùng để mô tả, kiểm tra chúng

"Dù bạn tin vào điều gì, chúng ta không được mộng du bước vào một quyết định mà sau này sẽ phải hối hận cay đắng."

Với độc giả Việt Nam đang theo dõi làn sóng AI, đây là lời nhắc nhở rằng những quyết định về bản chất và vị thế của AI trong xã hội sẽ định hình tương lai nhiều thập kỷ — và không thể để bất kỳ công ty đơn lẻ nào tự quyết định.