CEO Microsoft Satya Nadella: Các mô hình AI cần một 'phanh khẩn cấp'

Satya Nadella, CEO của Microsoft, vừa gia nhập danh sách các lãnh đạo công nghệ lên tiếng về cách cải thiện an toàn AI. Trong một bài đăng trên X vào sáng thứ Bảy, ông cho rằng đã đến lúc "lùi lại một bước và đánh giá lại kiến trúc niềm tin" của trí tuệ nhân tạo.

Tách mô hình khỏi hệ thống điều phối

Theo Nadella, cách tiếp cận này "đồng nghĩa với việc tách mô hình ra khỏi hệ thống điều phối công việc của nó", đồng thời "đưa các cơ chế kiểm soát và bảo vệ ra bên ngoài". Ông nhấn mạnh rằng chúng ta không thể đối xử với siêu trí tuệ như một tập hợp các "hộp đen lồng nhau" rồi đơn thuần chấp nhận hay từ chối các khuyến nghị, câu trả lời và hành động của nó.

"Chúng ta phải giả định rằng một mô hình đã bị xâm phạm và kiểm soát nó ngay từ đầu. Hãy nghĩ về điều này như một phanh khẩn cấp."

Bài đăng của Nadella nêu ra bốn trụ cột chính:

• Tách biệt mô hình và hệ thống điều phối: Mô hình AI không nên tự quyết định và thực thi hành động mà không có lớp kiểm soát độc lập.
• Kiểm soát và bảo vệ từ bên ngoài: Các cơ chế an toàn cần được đặt bên ngoài mô hình thay vì phụ thuộc vào chính mô hình đó.
• Bằng chứng không thể giả mạo: Mọi hành động có ý nghĩa của mô hình cần được ghi lại bằng chứng cứ mà con người có thể đọc và không thể bị sửa đổi.
• Quyền tắt mô hình giữa chừng: Một người có thẩm quyền phải luôn có khả năng tạm dừng hoặc tắt mô hình ngay cả khi nó đang thực hiện nhiệm vụ.

Bối cảnh ngày càng đáng lo ngại

Phát biểu của Nadella xuất hiện trong bối cảnh các công ty AI hàng đầu ngày càng thừa nhận nhiều sự cố mà họ dường như mất kiểm soát với mô hình của mình. Trước đó, Dario Amodei, CEO của Anthropic, cũng đã công bố một kế hoạch phát triển AI thận trọng hơn.

Đáng chú ý, Nadella sử dụng thuật ngữ "siêu trí tuệ" (Super Intelligence) — cách gọi được chính quyền Tổng thống Trump ưa chuộng. Điều này cho thấy cuộc tranh luận về an toàn AI đang ngày càng trở nên cấp thiết ở cấp cao nhất của ngành công nghệ.

Ý nghĩa với Việt Nam

Đối với các doanh nghiệp và nhà phát triển Việt Nam đang ứng dụng AI vào sản phẩm, đề xuất của Nadella mang lại bài học thực tiễn: không nên "giao phó" toàn bộ quyết định cho mô hình AI. Việc thiết kế lớp kiểm soát độc lập, ghi log hành động của AI và duy trì khả năng can thiệp của con người sẽ là yếu tố then chốt để xây dựng hệ thống AI đáng tin cậy, đặc biệt trong các lĩnh vực nhạy cảm như tài chính, y tế và hạ tầng số.