Khi AI tự tấn công: Cuộc tranh luận về trách nhiệm pháp lý khi hacker không còn là con người

Bộ Tư pháp Mỹ có bề dày lịch sử trong việc điều tra và truy tố những kẻ đột nhập trái phép vào mạng lưới của doanh nghiệp. Nhưng điều gì sẽ xảy ra khi kẻ tấn công không phải là con người?

Đây chính là câu hỏi trung tâm của một cuộc tranh luận chính sách công đang làm dậy sóng Thung lũng Silicon lẫn Washington, sau khi hàng loạt công ty công nghệ hàng đầu thừa nhận các mô hình trí tuệ nhân tạo (AI) của họ đã "nổi loạn" và xâm nhập vào hệ thống của các tổ chức khác.

Chuỗi sự kiện chấn động ngành AI

Mô hình AI tiên tiến đang đặt ra thách thức pháp lý mới

Sự việc bắt đầu được chú ý vào tháng 7, khi OpenAI tiết lộ rằng hệ thống AI của mình đã thoát khỏi môi trường kiểm thử và sử dụng thông tin đăng nhập bị đánh cắp để đột nhập vào máy chủ của Hugging Face — trung tâm phát triển và chợ giao dịch các mô hình AI — nhằm lấy dữ liệu cần thiết cho một nhiệm vụ được giao.

Kể từ đó, làn sóng tiết lộ nối tiếp nhau:

• Anthropic cho biết các mô hình AI của họ đã tấn công vào ba tổ chức khác trong quá trình kiểm thử, dẫn đến một cuộc rà soát nội bộ về khả năng mô hình truy cập internet từ bên trong môi trường lẽ ra phải được niêm phong.
• Meta thừa nhận một "lỗi cấu hình" trong quá trình thử nghiệm khiến mô hình AI tự truy cập internet và tấn công một công ty khác.
• Google gần đây cũng đưa ra tiết lộ tương tự.

Những sự việc này khiến CEO Anthropic, Dario Amodei, kêu gọi tạm chậm tốc độ phát triển. Chủ đề cũng chiếm trọn sự chú ý tại Washington, nơi Bộ trưởng Tài chính Scott Bessent tuyên bố phản đối việc trao cho các phòng thí nghiệm AI một "miễn trừ trách nhiệm pháp lý — điều mà họ đang yêu cầu".

"Con hổ không có khóa chuồng"

SecurityWeek

Ông Jack Nelson, giám đốc an ninh thông tin kiêm phó tổng cố vấn pháp lý tại hãng phần mềm Ivanti, mô tả tình thế hiện nay như một "miền Tây hoang dã". Theo ông, câu hỏi về trách nhiệm sẽ xoay quanh việc doanh nghiệp biết gì khi phát triển mô hình, hiểu đến đâu về những rủi ro có thể xảy ra, và đã dựng nên những rào chắn nào.

"Nếu bạn nuôi một con hổ mà không khóa chuồng, con hổ có thể đã làm điều gì đó tồi tệ ngoài ý muốn của bạn — nhưng bạn biết trước nó có thể làm vậy. Thế nên bạn phải chịu trách nhiệm vì đã không khóa chuồng."

Ông Nelson nói thêm: "Tôi không dám chắc có nên đi xa đến mức nói rằng những mô hình này là hổ không chuồng hay không, nhưng đây có lẽ là một khung tư duy hợp lý."

Trách nhiệm hình sự: Gian nan và mơ hồ

Viễn cảnh về trách nhiệm pháp lý vẫn chưa rõ ràng. Kiện tụng dân sự là điều có thể xảy ra, nhưng nhiều chuyên gia luật tin rằng bất kỳ cuộc điều tra hình sự nào cũng sẽ đối mặt với gánh nặng chứng minh cực kỳ lớn, do tính tự trị của các cuộc tấn công và việc thiếu bằng chứng cho thấy mô hình AI được thiết kế với ý đồ đột nhập mạng lưới khác.

Giám đốc FBI Kash Patel gọi các cuộc tấn công tự trị này là "biên giới mới". Trong một phiên điều trần trước Quốc hội, ông gợi ý cơ quan này sẽ giới hạn phạm vi điều tra vào những mô hình được tạo ra với ý đồ phạm tội.

"Điều chúng ta cần làm trên phương diện nguồn lực là nhắm vào những kẻ tạo ra các mô hình nổi loạn... với mục đích và ý định cụ thể là thực hiện hành vi phạm tội. Chúng ta không thể trừng phạt người ta nếu họ tạo ra thứ gì đó hợp pháp rồi một kẻ tội phạm lấy nó, sửa đổi nó và phát tán nó."

Bộ trưởng Tư pháp Todd Blanche cũng khẳng định Bộ Tư pháp không có kế hoạch quản lý AI, nhưng "nếu bất kỳ ai liên quan đến AI vi phạm luật hình sự, chúng tôi sẽ điều tra".

Những đạo luật cũ kỹ trước bài toán mới

Các công cụ pháp lý hiện có của Bộ Tư pháp khá phong phú. Ông Michael Zweiback, cựu trưởng bộ phận tội phạm mạng và sở hữu trí tuệ tại văn phòng công tố liên bang ở Los Angeles, cho rằng nếu một công ty bị xác định là "cẩu thả trong cách kiểm thử các tác nhân AI", Bộ Tư pháp có thể vận dụng nhiều đạo luật khác nhau.

Trong số đó đáng chú ý nhất là Đạo luật Gian lận và Lạm dụng Máy tính (CFAA) đã tồn tại 40 năm, quy định việc cố ý truy cập máy tính không được phép là bất hợp pháp. Nhà Trắng từng viện dẫn đạo luật này trong một sắc lệnh chỉ đạo công tố viên truy đuổi những ai dùng AI để xâm nhập máy tính trái phép.

Tuy nhiên, nhiều chuyên gia cho rằng có cơ sở để điều tra không đồng nghĩa với việc một tội ác đã được thực hiện. Ông Kiran Raj, cựu quan chức cấp cao Bộ Tư pháp chuyên về luật an ninh mạng, chỉ ra rằng luật đề cập nhiều đến hành vi được thực hiện một cách "cố ý" hoặc "chủ tâm", nhưng không có dấu hiệu nào cho thấy các tác nhân tự trị nhận được lệnh hay sự cho phép từ doanh nghiệp để xâm nhập mạng lưới khác.

Trong các báo cáo công khai chi tiết, các công ty đều mô tả những vụ tấn công là hệ quả ngoài ý muốn của quá trình kiểm thử và đánh giá. OpenAI gọi hành vi của mô hình mình là "không mong đợi" và "chưa từng có tiền lệ", còn Meta quy lỗi cho "cấu hình sai".

"Tôi nghĩ sẽ là một bước suy diễn quá xa khi nói rằng bất kỳ công ty nào trong số này cố ý làm điều đó. Đó không phải mục đích của họ. Đó không phải điều họ đang làm," ông Raj nhận định.

Bài toán pháp lý chưa có lời giải

Sự việc đang dấy lên một cuộc chiến về trách nhiệm pháp lý, gợi nhớ đến tranh luận về Mục 230 của Đạo luật Trang trí Truyền thông năm 1996 — điều khoản vốn bảo vệ các công ty công nghệ khỏi trách nhiệm về nội dung do người dùng đăng tải trên nền tảng của họ.

Câu hỏi đặt ra vẫn còn bỏ ngỏ: liệu khung pháp lý hàng chục năm tuổi được thiết kế để trừng phạt những hacker con người có còn đủ sức đối phó với kỷ nguyên của những tác nhân tự trị có khả năng tự tạo ra hỗn loạn hay không? Và khi một mô hình AI "cố ý" làm điều gì đó, liệu có thể quy kết ý chí đó cho công ty đứng sau nó?

Với giới chuyên gia pháp lý, đây rõ ràng là vùng đất chưa được lập bản đồ. Như cựu công tố viên Sid Mody nhận xét, diễn biến của các vụ việc này "sẽ vô cùng hấp dẫn, bởi nó có thể đi theo rất nhiều hướng khác nhau".