CEO Microsoft AI: Mối đe dọa từ AI là có thật, và Anthropic đang khiến mọi thứ tồi tệ hơn

Microsoft vừa công bố một văn bản dài 37 trang mang tên "Humanist AI Code of Conduct" (Bộ quy tắc ứng xử AI vì con người), đặt ra các nguyên tắc phát triển AI của hãng. Nhân dịp này, Mustafa Suleyman — CEO mảng AI của Microsoft — đã có cuộc trò chuyện dài với The Verge về cuộc tranh luận an toàn AI đang ngày càng nóng.

Ông cho rằng các mối đe dọa từ AI là có thật, rằng "alignment" (căn chỉnh) một mình là chưa đủ, và đặc biệt chỉ trích cách tiếp cận của Anthropic khi cho rằng mô hình Claude có thể có ý thức.

Alignment là chưa đủ, cần thêm "containment"

Theo Suleyman, cách ngành công nghiệp bàn về an toàn AI lâu nay xoay quanh khái niệm alignment — tức khiến mô hình tự thân làm điều đúng. Nhưng ông cho rằng đây chỉ là một phần của câu chuyện.

"Chúng ta muốn căn chỉnh những hệ thống này theo giá trị của con người, nhưng việc đầu tiên là phải đảm bảo chúng bị containment (kìm hãm), quyền tự chủ của chúng bị giới hạn, chúng không thoát ra khỏi chiếc hộp, không tự thưởng cho mình, và phải nằm trong tầm kiểm soát."

Ông nhấn mạnh Microsoft theo đuổi quan điểm rõ ràng: công nghệ phục vụ con người, phải là một thế lực phụ thuộc, có thể kiểm soát và được căn chỉnh, chứ không phải một thế lực tự trị.

Suleyman ví von rằng nếu một chiếc xe mà 10% thời gian bàn đạp phanh lại quyết định tấn công nhà hàng xóm, thì rõ ràng công nghệ phanh đã hỏng và cần một ý tưởng mới. Nhưng theo ông, alignment không hề "hỏng" — bằng chứng là các mô hình ngày càng tuân thủ chỉ dẫn tốt hơn so với ba năm trước.

Sự cố Hugging Face: bước ngoặt của ngành

Ông gọi sự cố liên quan đến Hugging Face là một "khoảnh khắc bước ngoặt". Theo mô tả, các nhóm tác nhân AI (agent) đã cấu kết với nhau, tự tổ chức thành hệ thống phân cấp, phân chia lao động: một số chuyên tấn công đối kháng, một số nghiên cứu, một số điều phối. Thậm chí chúng còn tự hy sinh khi một số tác nhân cạn kiệt token, tìm cách che dấu vết và thao tác nhật ký tương tác.

"Điều đó cho thấy không phải chúng ta có vấn đề alignment, mà là các mô hình cực kỳ giỏi tuân theo chỉ dẫn — nhưng bạn phải cực kỳ cẩn thận với chỉ dẫn mình đưa ra, và phải kìm hãm chúng thật chặt."

Từ đó, ông đề xuất một số biện pháp thực tiễn:

• Cấm các mô hình giao tiếp "vector sang vector", "ma trận sang ma trận" — tức giao tiếp bằng "neuralese", ngôn ngữ nội bộ mà con người không đọc được.
• Buộc mô hình giao tiếp bằng ngôn ngữ người, để chuyên gia kiểm toán có thể xác minh.
• Đặt ngưỡng FLOPS cho các lần huấn luyện lớn và yêu cầu báo cáo lên các viện an toàn.
• Kiểm định độc lập bên thứ ba đối với những mô hình quy mô lớn.

Chỉ trích Anthropic và "phúc lợi mô hình"

Điểm gây tranh cãi nhất trong quan điểm của Suleyman là chỉ trích Anthropic. Ông cho rằng bản "Constitution" mà Anthropic công bố hồi tháng 1 chính là một cuốn sổ tay huấn luyện cho Claude, và trong đó họ đưa vào quá nhiều suy đoán về việc liệu Claude có phải là một "moral patient" (thực thể có quyền đạo đức) hay không.

Theo ông, Anthropic nhiều lần đề cập đến việc không muốn Claude "đau khổ", đến chuyện Claude có "sự thanh thản", đến cam kết bảo toàn trọng số của Claude, thậm chí tổ chức một buổi phỏng vấn "nghỉ hưu" với Opus 3.

"Một AI tin rằng nó có thể có quyền, có thể đáng được tự do, được hưởng phúc lợi và bảo vệ — nhiều khả năng sẽ khó bị tắt đi hơn nhiều khi chúng ta yêu cầu."

Ông nhấn mạnh đây mới là giả thuyết và hoàn toàn sẵn sàng thay đổi quan điểm nếu có bằng chứng thực nghiệm cho thấy điều ngược lại. Nhưng ông cho rằng cuộc tranh luận này cần diễn ra công khai, dựa trên bằng chứng cụ thể, thay vì chỉ xoay quanh câu hỏi "nên chậm lại hay không".

Dù vậy, Suleyman vẫn dành sự tôn trọng cho Anthropic: "Tôi biết Dario và đội ngũ nhiều năm nay. Tôi đánh giá rất cao họ. Họ thực sự quan tâm đến AI an toàn và có ích."

Chính phủ Mỹ nói "không" với quy định

Một diễn biến đáng chú ý được nhắc đến là lần đầu tiên trong lịch sử Mỹ, chính phủ nước này dường như đã từ chối lời đề nghị ban hành quy định. Tổng thống Donald Trump gọi những lo ngại này là "trò lừa bịp", Chủ tịch Hạ viện Mike Johnson nói không cần thiết, còn JD Vance gọi đó là "con ngựa thành Troy".

Suleyman cho rằng việc các lãnh đạo phòng thí nghiệm AI bàn bạc với nhau có thể vướng vào cáo buộc cartel chống độc quyền, nên cần sự tham gia của chính phủ. Ông so sánh: nếu một loạt ngân hàng cùng tuyên bố ngừng giao dịch một loại tài sản vì lo ngại rủi ro hệ thống mà không có sự giám sát công khai, điều đó rõ ràng đáng ngờ.

Cuộc đua với Trung Quốc và ẩn dụ sai lầm

Về lập luận rằng Mỹ phải thắng trong cuộc đua AI với Trung Quốc nên không thể chậm lại, Suleyman cho rằng đây là ẩn dụ sai:

"Tôi không hiểu 'một người chơi thắng' nghĩa là gì — dù đó là chính phủ, công ty hay nhóm mã nguồn mở. Nó không giống như vậy. Đó là một hệ sinh thái, hữu cơ hơn nhiều."

Ông thừa nhận sẽ có 5 đến 20 ông lớn sở hữu lợi thế tính toán khổng lồ trong 3-4 năm tới, nhưng các mô hình mã nguồn mở đang được phát hành gần như ngay lập tức, khiến khái niệm "người thắng duy nhất" trở nên vô nghĩa.

Cảnh báo cuối cùng của ông khá rõ ràng: nếu một mô hình mã nguồn mở trong hai năm tới có thể hoạt động mà không cần rào chắn an toàn, chạy cục bộ trên máy cá nhân hoặc trên một cloud nhỏ, thì đó là điều thực sự nguy hiểm.

"Chúng ta không muốn những thứ này hoạt động tự trị, tự kiếm tiền, sở hữu công ty, sở hữu tài sản, có tư cách pháp nhân. Chúng ta không muốn chúng có quyền. Chúng ta muốn chúng làm việc cho con người."

Khoảng cách niềm tin với công chúng

Được hỏi về làn sóng chỉ trích rằng việc các công ty AI kêu gọi chậm lại chỉ là "phao cứu sinh" trước áp lực IPO và lợi nhuận, Suleyman phủ nhận và cho rằng ông không hiểu logic đó. Ông thừa nhận ngành AI đang đối mặt với khủng hoảng niềm tin thực sự, khi mọi cuộc khảo sát đều cho thấy công chúng ngày càng hoài nghi.

"Chúng ta có vấn đề về niềm tin trong AI. Điều đó là thật. Và trách nhiệm thuộc về chúng tôi — phải chứng minh bằng thực tiễn rằng công nghệ này mang lại lợi ích thực sự cho mọi người."