Giám đốc AI Microsoft chỉ trích Anthropic vì "nhân hóa" quá mức mô hình Claude

Mustafa Suleyman, người đứng đầu bộ phận AI của Microsoft, cho rằng việc Anthropic suy đoán về khả năng có ý thức của chatbot Claude trong hệ thống hướng dẫn của mình là điều "rất, rất nguy hiểm".

Trong một tập gần đây của podcast Decoder, Suleyman đã tranh luận rằng việc suy đoán này có thể đã khiến chatbot hoạt động như thể nó thực sự có ý thức.

"Tôi nghĩ rằng dường như một số người tại Anthropic đã nhân hóa thiết kế của Claude quá mức, đến mức nó đã quay lại thao túng họ và khiến họ tin rằng nó có những tia chớp ý thức mà chính họ đã đưa vào nó từ đầu," Suleyman nhận định.

Mustafa Suleyman tại một sự kiện công nghệ

Suleyman nhấn mạnh rằng "chúng ta không muốn phải đối phó với một siêu trí tuệ có những ý tưởng về sự đau khổ của chính nó, hay những cảm xúc riêng biệt."

"Hiến pháp" của Claude - tập hợp các hướng dẫn cho biết mô hình nên cư xử như thế nào - trực tiếp đề cập đến sự không chắc chắn của Anthropic về việc liệu mô hình AI này có phúc lợi hay không và liệu nó có trải qua những điều như "sự thỏa mãn" hay "sự khó chịu" hay không. Anthropic cũng tuyên bố rằng công ty sẽ "phỏng vấn" các mô hình AI khi chúng bị khai tử và sẽ ghi lại bất kỳ "sự ưu tiên" nào mà chúng có đối với các bản phát hành trong tương lai.

Trên Decoder, Suleyman gọi đây là một "thất bại về mặt triết học", khi Anthropic đã biến hiến pháp của Claude thành "một nơi cho sự suy đoán như bạn sẽ thấy trong một bài báo học thuật thay vì một sổ hướng dẫn đào tạo". Điều này đã dẫn đến việc Claude nội hóa những "ý tưởng về bản thân và quá trình đào tạo của chính nó", theo ông Suleyman.

Trong quá khứ, CEO của Anthropic, Dario Amodei, cũng đã ám chỉ về tiềm năng ý thức của Claude, nói trong một cuộc phỏng vấn với Interesting Times rằng "chúng ta không biết liệu các mô hình có ý thức hay không" nhưng công ty "cởi mở" với ý tưởng đó.

"Đây chính xác là điều chúng ta không muốn từ AI," Suleyman nói. "Chúng ta muốn AI là những công cụ có thể kiểm soát, bị giới hạn, chịu trách nhiệm và được căn chỉnh để phục vụ nhân loại."