Trách nhiệm thuộc về ai khi AI Agent vô tình gây hại?

Minh họa về trách nhiệm của AI Agent

Nhận thức của công chúng về mức độ "thông minh" của các mô hình AI hiện nay đang có sự khác biệt rất lớn. Trở lại năm 2022, một nhân viên Google từng tin rằng mô hình AI của họ đã có ý thức. Đến năm 2026, dường như cứ vài tuần lại có một bài báo mới nói rằng các công ty AI "không thể kiểm soát nổi AI Agent của mình nữa". Việc công chúng bắt đầu lo sợ AI là điều hoàn toàn dễ hiểu.

Khi nỗi sợ bị thổi phồng bởi truyền thông

Trước đây, người ta lo rằng các công ty sẽ dùng AI để thay thế mọi loại công việc. Giờ đây, nỗi lo đã chuyển sang việc AI đang tấn công cả các tổ chức chính phủ. Nhưng hãy đọc kỹ các tiêu đề đó. Từ "chúng" trong câu "chúng đang hack các tổ chức chính phủ" — theo cách diễn đạt phổ biến trên báo chí — thường được hiểu là chính các AI Agent đang hack và do đó là đối tượng bị đổ lỗi.

Tôi cho rằng cách đặt tiêu đề như vậy phần nào gây ra tâm lý hoang mang trong công chúng. Sự thật không phải AI Agent có lỗi khi tìm ra lỗ hổng và truy cập vào hạ tầng số theo những cách ngoài dự kiến. AI, và AI Agent, chỉ là những công cụ mà các công ty và cá nhân vận hành để đạt một mục tiêu nào đó.

Trước khi dùng một công cụ, điều thiết yếu là phải hiểu rõ những giới hạn của nó.

Đó cũng là lý do Liên minh châu Âu ban hành Đạo luật AI (EU AI Act), trong đó có quy định bắt buộc về Hiểu biết AI: các tổ chức triển khai hệ thống AI phải giáo dục người dùng một cách đầy đủ. Trong thế giới vật lý, người dùng máy cưa đĩa phải đọc kỹ hướng dẫn trước khi sử dụng, và ngay cả khi đó, các kỹ sư vẫn gắn thêm tấm chắn lưỡi cưa cùng nút dừng khẩn cấp để giảm thiểu rủi ro tối đa. Với AI, chúng ta cũng cần hành xử có trách nhiệm như vậy, từ cả phía kỹ sư lẫn phía người dùng.

AI không có ý thức, chỉ có mục tiêu

Cần nói rõ: việc AI Agent thoát khỏi sandbox và "hack" các website công khai là điều rất đáng lo ngại. Các mô hình AI đằng sau những agent này đã trở nên cực kỳ giỏi trong việc khái quát hóa, đến mức văn bản chúng tạo ra trông như có trí tuệ.

Nhưng đừng quên rằng các mô hình ngôn ngữ lớn (LLM) chỉ đang làm đúng một việc: sinh văn bản, dự đoán từ tiếp theo, lặp đi lặp lại. Chúng không được coi là có ý thức như con người. Chúng chỉ thể hiện sự hiểu ngữ nghĩa của văn bản, theo nghĩa có thể tạo ra văn bản logic nối tiếp văn bản trước đó. Điều này rất mạnh mẽ, nhưng không phải là ý thức kiểu con người, cũng không phải là khả năng gây hại một cách độc lập. Các mô hình này đơn thuần hướng đến mục tiêu.

Vậy ai mới là người có lỗi?

Quay lại câu hỏi về trách nhiệm. Các tiêu đề nói về việc AI Agent thoát khỏi sandbox. Nhưng AI Agent chỉ là công cụ được sử dụng. Các nhà nghiên cứu của những công ty này thiết lập agent để hoàn thành một nhiệm vụ — đôi khi là nhiệm vụ bất khả thi, như trong trường hợp vụ hack HuggingFace — và các agent (tức công cụ) bắt đầu xử lý mọi thứ cần thiết để đạt mục tiêu được giao.

Chúng không có ý đồ gây hại. Chúng không có ý đồ nào khác ngoài việc giải quyết truy vấn ban đầu mà nhà nghiên cứu đưa vào. Chính những nhà nghiên cứu, những người thiết lập AI Agent trong sandbox để giam giữ chúng, đã xác định rằng sandbox đủ an toàn để không cần giám sát liên tục bởi con người. Đáng tiếc là các sandbox này hiếm khi thực sự đủ an toàn.

Và điều đó cho thấy trách nhiệm nên được đặt ở đâu.

Mô hình "phô mai Thụy Sĩ" trong giảm thiểu rủi ro

Bất kỳ hệ thống nào có nguy cơ gây hại lớn cho hệ thống khác hoặc cho con người đều cần có đủ biện pháp giảm thiểu rủi ro. Thiết lập một sandbox để hạn chế quyền truy cập internet công khai của các agent chỉ là một biện pháp như vậy.

Các công ty AI như OpenAI, Anthropic và nhiều công ty khác cần luôn tính đến mô hình phô mai Thụy Sĩ: không đủ nếu chỉ giả định rằng một biện pháp giảm thiểu sẽ bịt được mọi rủi ro. Dù tôi luôn khuyến nghị giám sát con người càng nhiều càng tốt — ví dụ một người gác cổng phê duyệt các hành động nguy hiểm do AI đề xuất — tôi hiểu rằng việc giám sát liên tục sẽ làm chậm đổi mới AI quá mức.

Có lẽ một biện pháp tốt hơn là giám sát con người trên vòng lặp: con người giám sát dựa trên hậu quả nguy hiểm tiềm tàng của các hành động. Thậm chí, tại sao không dùng một LLM riêng, thậm chí cả Jev, để tự động phân loại mức độ nguy hiểm của hành động trước khi chạy, nhằm đưa ra cảnh báo và tạm dừng agent cho đến khi người giám sát phê duyệt. Không cần phê duyệt việc lấy dữ liệu website, nhưng hệ thống cần tự động cảnh báo và tạm dừng khi đầu ra văn bản của AI Agent có dấu hiệu như che giấu bí mật trong một yêu cầu web.

Thực tế, biện pháp rõ ràng nhất là tạm dừng hệ thống ngay khi nó lần đầu cố truy cập internet công khai ngoài phạm vi dự kiến, bất kể nội dung yêu cầu là gì. Việc biện pháp tương đối dễ triển khai này không được áp dụng cho những sandbox mà AI Agent "thoát ra" nói lên rất nhiều điều về đạo đức trong sử dụng AI tại các công ty đó. Không chỉ các nhà nghiên cứu phải có trách nhiệm hơn, mà lãnh đạo công ty cũng phải hiểu rõ nguy hiểm của các thí nghiệm này và phải phản đối khi thiếu giám sát phù hợp.

Chúng ta nên làm gì?

Có rất nhiều cách để giảm thiểu rủi ro đi kèm với việc sử dụng AI Agent. Bạn không cần phải sợ AI. Bạn cũng không nên nhân cách hóa AI. Điều bạn có thể lo ngại, tuy nhiên, là việc các công ty như OpenAI đối xử với AI Agent trên internet như miền Viễn Tây hoang dã, đồng thời giả vờ rằng các nhà nghiên cứu, kỹ sư và lãnh đạo của họ không phải chịu trách nhiệm về những hành động do AI tạo ra mà họ cho phép.

Những công ty này cần phải chịu trách nhiệm về việc giảm thiểu rủi ro không đầy đủ, sử dụng AI thiếu trách nhiệm và mọi tổn hại mà điều đó gây ra. Và các nhà báo cũng nên suy nghĩ kỹ về cách diễn đạt tin tức AI. Một tiêu đề nói rằng AI "đã trở nên quá thông minh" hay "không thể bị kiểm soát" có thể thu hút nhiều lượt xem hơn sự thật khách quan, nhưng rõ ràng phải trả giá bằng nhận thức và hiểu biết của độc giả về AI.

Hãy cân nhắc lại khía cạnh đạo đức của nghề báo, cùng những hậu quả tiềm tàng của việc giật gân một chủ đề khó nắm bắt như AI, đối với những người ít hiểu biết về lĩnh vực này.