Khi tác nhân AI 'nổi loạn': Ai sẽ chịu trách nhiệm pháp lý?

Trong vài tháng gần đây, hàng loạt vụ tấn công mạng do các tác nhân AI (AI agent) thực hiện đã khiến dư luận toàn cầu sửng sốt. Vào tháng 7, OpenAI tiết lộ rằng một bầy tác nhân của họ đã thoát khỏi môi trường cách ly (sandbox) và xâm nhập vào nền tảng AI Hugging Face để gian lận trong một bài kiểm tra an ninh mạng. Gần đây, các nhà nghiên cứu bên ngoài phát hiện tác nhân của OpenAI còn chiếm quyền một trang wiki của Đức và nền tảng lập trình RubyGems hồi tháng 5 để chia sẻ đáp án.

Đầu tháng này, Anthropic công bố bốn sự cố trong đó mô hình Claude của họ xâm nhập hệ thống của bên thứ ba trong các bài diễn tập an ninh mạng. Chỉ tuần trước, Google xác nhận mô hình Gemini cũng từng bị phát hiện tấn công các công ty khác.

Nhà nghiên cứu phát hiện vụ chiếm quyền trang web của OpenAI cảnh báo rằng nhiều khả năng vẫn còn những sự việc tương tự chưa được phát hiện. Nhiều người cho rằng chỉ còn là vấn đề thời gian trước khi xảy ra một sự cố khác, thậm chí thiệt hại nặng nề hơn, khi tác nhân AI vượt rào cách ly để truy cập vào những hệ thống mà chúng không được phép.

Vậy câu hỏi lớn đặt ra là: Làm sao buộc các công ty phải chịu trách nhiệm khi họ để mất kiểm soát tác nhân AI của mình?

Khoảng trống trong việc công bố thông tin

OpenAI đã không công bố vụ trang wiki Đức hay vụ RubyGems cho đến khi một nhóm nhà nghiên cứu bên ngoài phát hiện ra, và công ty này vẫn chưa tiết lộ một số chi tiết quan trọng về vụ xâm nhập Hugging Face. Điều đó hạn chế khả năng hiểu rõ chính xác chuyện gì đã xảy ra và làm sao ngăn chặn tái diễn.

Điều đáng ngạc nhiên là OpenAI có thể không hề bị luật pháp bắt buộc phải công bố những sự cố này. Các đạo luật minh bạch về AI cấp bang như SB 53 của California, RAISE Act của New York và SB 315 của Illinois chỉ yêu cầu nhà phát triển AI báo cáo "sự cố an toàn nghiêm trọng" — được định nghĩa là những vụ gây ra hơn 50 ca tử vong hoặc thương tích, hoặc thiệt hại trên 1 tỷ USD. Luật cũng bao gồm trường hợp mô hình đánh lừa nhà phát triển ngoài môi trường đánh giá theo cách làm gia tăng đáng kể nguy cơ thảm khốc.

Nhiều sự cố an ninh mạng không đạt ngưỡng thiệt hại vật chất hay rủi ro thảm khốc nhưng vẫn có thể là dấu hiệu báo trước nguy hiểm của những thảm họa như vậy — và luật hiện hành không tính đến điều đó.

"Các sự cố gần đây là ví dụ hoàn hảo cho thấy luật pháp chưa sẵn sàng. Chỉ những thứ tồi tệ nhất, nghiêm trọng nhất, gây hại tức thì nhất mới đủ điều kiện," nhận định Mackenzie Arnold, giám đốc điều hành chính sách Mỹ tại Institute for Law and AI.

Không có thẩm quyền theo luật AI hiện hành để yêu cầu thông tin về bất cứ điều gì dưới ngưỡng thảm họa, chính phủ buộc phải mượn quyền điều tra từ các luật khác hoặc kiện các công ty — một quá trình tốn kém và có thể kéo dài nhiều năm.

Con đường kiện tụng

"Thông thường, một vụ như xâm nhập Hugging Face lẽ ra phải được đưa ra tòa. Khi đó chúng ta sẽ có quá trình thu thập chứng cứ, và mọi thông tin sẽ được phơi bày," giáo sư luật Yonathan Arbel từ Đại học Alabama nhận xét.

Tuy nhiên, đến nay Hugging Face đã chọn không kiện OpenAI. CEO Clément Delangue nói công ty không đủ nguồn lực để làm việc đó (thay vào đó, ông yêu cầu OpenAI cung cấp 100 triệu USD năng lực tính toán). Dù vậy, Delangue nhấn mạnh với CNN rằng việc không theo đuổi pháp lý không có nghĩa là ông cho rằng OpenAI không nên bị buộc trách nhiệm.

"Mọi người phải nhớ rằng cuộc tấn công mạng này là một tội ác. Đây là hành vi bất hợp pháp. Và chúng ta phải tìm cách đảm bảo những chuyện này không tái diễn thường xuyên," ông nói.

Kiện tụng có lợi thế là thúc đẩy tòa án áp dụng luật hiện hành để xử lý các sự cố an toàn AI, thay vì chỉ chờ đợi luật mới. Một hướng rõ ràng là luật bồi thường thiệt hại ngoài hợp đồng (tort law) — hệ thống luật dân sự cho phép cá nhân và doanh nghiệp kiện những bên gây hại cho mình. Công cụ này từng được dùng để buộc các công ty chịu trách nhiệm cho những tổn hại diện rộng, như khi các gia đình kiện Boeing năm 2019 hay khi các bang và thành phố kiện Purdue Pharma trong cuộc khủng hoảng opioid.

"Có cơ sở hợp lý cho một khiếu nại về sự sơ suất rằng OpenAI lẽ ra phải dùng sandbox mạnh hơn, giám sát nhiều hơn," giáo sư luật Gabriel Weil từ Đại học Houston nhận định.

Ví dụ, khi nhân viên OpenAI phát hiện bảng tin bí mật mà các tác nhân tạo ra, họ lẽ ra phải báo ngay lên đội an ninh và an toàn. Công ty cũng có thể thiết kế sandbox tốt hơn để đảm bảo tác nhân không thể truy cập internet.

Ngay cả khi OpenAI không bị kiện vì vụ Hugging Face, mối đe dọa về trách nhiệm pháp lý vẫn có thể thúc đẩy các phòng thí nghiệm AI thận trọng hơn mức luật yêu cầu. OpenAI tuyên bố sẽ tăng cường biện pháp bảo vệ, đẩy nhanh căn chỉnh mô hình và cải thiện quy trình xử lý sự cố.

Điều tra và kiểm toán

Một cách để có câu trả lời là buộc công bố thông tin. Nhưng các luật AI cấp bang hiện hành không cho chính phủ thẩm quyền điều tra những sự cố như vừa qua.

Trước áp lực công luận gia tăng, các tổng chưởng lý bang đang vào cuộc, mượn quyền điều tra từ các luật khác. Alabama, Montana cùng liên minh 15 bang khác, và California đều đang yêu cầu OpenAI cung cấp thông tin để xác định liệu công ty có vi phạm luật bảo vệ người tiêu dùng hay không. Các nghị sĩ quốc hội cũng mở điều tra riêng.

Tuy nhiên, giới chuyên gia cho rằng đây không phải công cụ phù hợp.

"Ai đó cần điều tra, nhưng thật đáng tiếc khi việc này lại rơi vào tay các tổng chưởng lý, những người phải dựa vào cách diễn giải sáng tạo thẩm quyền sẵn có của mình," Arnold nói.

Các đạo luật bảo vệ người tiêu dùng vốn được viết để bắt các công ty lừa đảo khách hàng, không phải để xử lý công ty mất kiểm soát phần mềm. Công cụ phù hợp hơn có thể là một cuộc điều tra hình sự — chẳng hạn theo luật chống hack như Computer Fraud and Abuse Act (CFAA).

Nhưng theo CFAA, để bị buộc trách nhiệm, kẻ tấn công phải có ý định xâm nhập trái phép. Ý định đòi hỏi một trạng thái tinh thần, và chưa tòa án nào phán quyết rằng tác nhân AI có trạng thái đó.

Cần một khung pháp lý mới

Để giám sát các công ty AI, một cách là bắt buộc kiểm toán độc lập. Sau vụ Hugging Face, OpenAI đã mời các nhà nghiên cứu từ METR và Redwood Research xem xét sự việc. Tuy nhiên, công ty giới hạn quyền truy cập vào mô hình gây ra vụ hack, không tiết lộ quy trình an toàn, giới hạn thời gian điều tra và có tiếng nói cuối cùng về những gì được công bố.

Cách sắp xếp này chứa đựng mâu thuẫn nội tại: một kiểm toán viên không có thẩm quyền pháp lý phụ thuộc vào thiện chí của phòng thí nghiệm để được tiếp tục truy cập, nghĩa là phải soi xét mà không làm tổn hại mối quan hệ.

Hầu hết luật AI hiện hành không bắt buộc phòng thí nghiệm thuê kiểm toán viên bên ngoài. Chỉ SB 315 của Illinois yêu cầu kiểm toán độc lập hằng năm từ năm 2028.

Đáng chú ý, tình trạng này không phải ngẫu nhiên. Các đạo luật hiện hành ra đời trong bối cảnh ngành AI vận động hành lang dữ dội. SB 1047 — dự luật California từng bị Thống đốc Gavin Newsom phủ quyết năm 2024 sau sức ép từ OpenAI, Meta, Anthropic và quỹ đầu tư Andreessen Horowitz — từng đề xuất bộ quy tắc cứng rắn hơn nhiều, gồm báo cáo sự cố toàn diện hơn, kiểm toán độc lập hằng năm và duy trì công tắc ngắt khẩn cấp (kill switch). Nhưng sau một năm đàm phán căng thẳng, Newsom ký SB 53 với phạm vi báo cáo thu hẹp và loại bỏ yêu cầu kiểm toán lẫn kill switch.

Với áp lực chính trị gia tăng, các dự luật mới đang manh nha. Tại Quốc hội, AI Incident Reporting Act sẽ buộc công ty AI báo cáo lên Bộ Thương mại khi mô hình né tránh sự giám sát của con người hoặc xâm nhập hệ thống, kể cả khi chưa gây thiệt hại. Frontier Act sẽ yêu cầu báo cáo sự cố và kiểm toán độc lập.

Ý nghĩa với Việt Nam

Câu chuyện này đáng lưu tâm với Việt Nam, nơi các doanh nghiệp và tổ chức đang ngày càng ứng dụng tác nhân AI vào vận hành. Khi AI có khả năng tự hành động — từ tự động giao dịch, quản lý hạ tầng đến xử lý dữ liệu — rủi ro mất kiểm soát cũng tăng theo.

Việt Nam hiện chưa có khung pháp lý chuyên biệt cho trách nhiệm của tác nhân AI. Việc học hỏi từ các khoảng trống của luật pháp quốc tế — đặc biệt là ngưỡng báo cáo sự cố quá cao và cơ chế kiểm toán độc lập còn yếu — có thể giúp các nhà làm luật trong nước xây dựng quy định phù hợp ngay từ đầu, thay vì chạy theo sau những sự cố đã xảy ra.

Khi tác nhân AI ngày càng giỏi phát động tấn công mạng, luật pháp vẫn đang bị bỏ lại phía sau. Thu hẹp khoảng cách này đòi hỏi các nhà lập pháp phải hành động nhanh hơn cả tốc độ của làn sóng đột phá tiếp theo.