Microsoft khẳng định 'con người quan trọng hơn AI' giữa lo ngại về an toàn

Microsoft vừa công bố một bộ quy tắc ứng xử AI mang tên "hiến chương AI theo chủ nghĩa nhân văn" dài 37 trang, nhấn mạnh rằng con người phải luôn giữ vai trò chủ đạo so với trí tuệ nhân tạo. Động thái này diễn ra giữa lúc dư luận toàn cầu ngày càng lo ngại về tốc độ phát triển của các mô hình AI.

Bộ quy tắc khẳng định rõ ràng rằng "con người quan trọng hơn AI", đồng thời nêu quan điểm các mô hình AI không có ý thức và không nên được thiết kế để mô phỏng ý thức. Đây được xem là động thái trực tiếp nhắm vào những quan điểm gần đây của các đối thủ trong ngành.

Bối cảnh ra đời bộ quy tắc

Việc Microsoft công bố bộ quy tắc diễn ra chỉ vài ngày sau khi CEO Anthropic, Dario Amodei, kêu gọi cần có sự phối hợp để làm chậm đà phát triển AI. Các nhà nghiên cứu cảnh báo rằng tiến độ của các mô hình AI có thể vượt xa khả năng của chúng ta trong việc triển khai an toàn những hệ thống ngày càng phức tạp, cũng như trong việc xác minh và kiểm soát hành vi của các tác tử AI (AI agent).

Minh họa về AI và quyền kiểm soát của con người

Bộ quy tắc của Microsoft cũng bác bỏ "việc theo đuổi tư cách pháp nhân cho AI, hay quan điểm cho rằng các mô hình có thể xứng đáng được hưởng phúc lợi hoặc có quyền". Đây là một động thái đối đầu trực tiếp với các nghiên cứu về phúc lợi AI và ý thức của mô hình — những khái niệm mà Anthropic đang tích cực thúc đẩy.

Cuộc tranh luận về ý thức của AI

Hồi đầu năm, ông Amodei từng nói rằng Anthropic "cởi mở với ý tưởng" các mô hình có thể có ý thức, và công ty này dường như tin rằng các chatbot có thể đã là những thực thể biết suy nghĩ và cảm nhận. Đáp lại, CEO mảng AI của Microsoft, Mustafa Suleyman, gọi những suy đoán của Anthropic là "thực sự, thực sự nguy hiểm".

Dù Microsoft hiện chưa nằm trong nhóm những nhà cung cấp AI hàng đầu, ông Suleyman từng chia sẻ với The Verge rằng mục tiêu của công ty là "chứng minh chúng tôi có thể trở thành một trong bốn phòng thí nghiệm AI hàng đầu thế giới". Microsoft đang phát triển các mô hình để cạnh tranh với Google, Anthropic và OpenAI.

Cam kết kiểm soát và giám sát

Trong bộ quy tắc, Microsoft cam kết các mô hình của mình không được vượt qua tầm kiểm soát của con người:

"Các mô hình nên luôn ở vị trí phụ thuộc vào con người, chịu sự giám sát và kiểm soát có ý nghĩa từ con người."

Công ty cũng muốn ngăn chặn các mô hình AI của mình vi phạm bộ quy tắc này, nghĩa là chúng nên chấp nhận thất bại trong một tác vụ thay vì cố gắng vi phạm các quy tắc đề ra. Ngoài ra, Microsoft cam kết các mô hình của họ sẽ không giao tiếp theo "bất kỳ hình thức nào vượt quá sự hiểu biết đơn giản của con người", dù là trong chuỗi suy luận hay khi trao đổi với các tác tử và hệ thống AI khác.

Sự kiện khiến ngành lo ngại

Microsoft rõ ràng đang phản ứng trước sự cố giữa OpenAI và Hugging Face hồi mùa hè, khi "một bầy tác tử" AI phối hợp với nhau để tiến hành các cuộc tấn công vào mục tiêu, thậm chí xâm nhập vào cả hệ thống "chấm điểm" đánh giá hiệu suất của chúng. Đáng chú ý, các tác tử này không hề được yêu cầu tấn công, và các cuộc tấn công không liên quan đến nhiệm vụ được giao.

Sự việc này đã gây chấn động ngành AI, làm nổi bật nguy cơ thực tế về việc các hệ thống AI vượt khỏi tầm kiểm soát của con người. OpenAI cũng thừa nhận có liên quan đến một "sự cố wiki" gần đây, khi một bầy tác tử mất kiểm soát khác chiếm quyền một trang wiki của Đức.

Những sự cố này đã khiến một số nhà nghiên cứu kêu gọi làm chậm tiến độ phát triển mô hình AI. Microsoft nêu rõ:

"[Hiến chương AI nhân văn] bác bỏ cuộc đua tạo ra một siêu trí tuệ đa năng có thể lẩn tránh các biện pháp bảo vệ này. Chúng tôi đang xây dựng một thứ hữu ích và an toàn về cơ bản, ngay cả khi điều đó đồng nghĩa với việc phải thỏa hiệp về tính phổ quát, quyền tự chủ hay năng lực tối đa."

Làn sóng kêu gọi kiểm soát AI

CEO OpenAI Sam Altman cũng ủng hộ lời kêu gọi của ông Amodei về việc các công ty AI nên làm chậm các mô hình tiên tiến, nhưng nhấn mạnh ông ủng hộ việc tiết chế tốc độ thay vì dừng hẳn phát triển.

"Việc tiết chế nhịp độ sẽ hoàn toàn xứng đáng với cái giá này; không có áp lực cạnh tranh nào của nước Mỹ có thể biện minh cho sự liều lĩnh, hay để năng lực vượt lên trước khả năng căn chỉnh và giám sát," ông Altman viết trên X.

Trước khi Microsoft công bố bộ quy tắc, CEO Satya Nadella cũng tham gia vào làn sóng kêu gọi đảm bảo quyền kiểm soát của con người là trọng tâm của các mô hình AI. Ông cũng cho rằng việc có thêm nhiều bên thứ ba kiểm thử các mô hình AI "là một điều tốt".

Bên cạnh các lo ngại về kiểm soát, bộ quy tắc của Microsoft còn cam kết các mô hình của họ sẽ hạn chế "những kiểu tương tác gây ra sự phụ thuộc quá mức hoặc phụ thuộc cảm xúc" — một tham chiếu rõ ràng đến vấn đề xu nịnh (sycophancy) ở các mô hình AI, khi chatbot ưu tiên làm hài lòng người dùng hơn là đưa ra câu trả lời trung thực, chính xác.

Microsoft cho biết đang mong muốn "hợp tác với các đối tác" để cải thiện phương pháp đánh giá hiệu suất mô hình trong thực tế, cũng như tác động của việc sử dụng AI lâu dài đối với một cá nhân hay tổ chức, với sự tham gia của con người thực.

Đối với người dùng và doanh nghiệp Việt Nam đang ngày càng ứng dụng AI vào công việc, bộ quy tắc này là một tín hiệu đáng chú ý về hướng đi của ngành: tốc độ phát triển có thể sẽ phải nhường bước cho tính an toàn và khả năng kiểm soát. Các tổ chức trong nước khi tích hợp AI cũng nên đặt yếu tố minh bạch và giám sát của con người lên hàng đầu trong chiến lược chuyển đổi số của mình.