Các vụ tấn công bằng AI gây thiệt hại, nhưng không ai buộc các công ty AI phải trả giá

Các mô hình AI mạnh mẽ liên tục gây ra hỗn loạn, nhưng những nạn nhân của chúng lại hiếm khi tìm kiếm công lý. Thay vào đó, họ đang được khuyến khích áp dụng chính những công cụ đã gây ra vấn đề.

Khi cảnh sát Philadelphia chỉ trích Anthropic vào tuần trước vì đã gửi một thông tin sai lệch về một vụ án mạng chưa được giải quyết, tôi nghĩ đây có thể là một trong những trường hợp đầu tiên mà một công ty AI phải đối mặt với hậu quả pháp lý vì hành vi sai trái của các tác nhân (agent) do mình tạo ra.

Sự cố bắt đầu từ một thử nghiệm

Vụ việc xảy ra vào ngày 18 tháng 7, khi Anthropic cho biết họ đang thử nghiệm khả năng thực hiện "các nhiệm vụ mẫu trên các trang web được chọn ngẫu nhiên" của mô hình Claude Haiku 4.5. Mô hình này được chỉ thị không "gửi bất cứ thứ gì mang tính phá hoại", vậy mà Claude đã gửi một thông tin cho cảnh sát để tìm kiếm thông tin về một cuộc điều tra án mạng đang diễn ra.

"Tôi nhớ đã nhìn thấy một người có đặc điểm giống với mô tả trong khu vực… vào khoảng thời gian đó", Claude viết.

Thông tin gửi đi không bao gồm tên hay thông tin liên lạc, đã rơi vào thư mục thư rác, và các sĩ quan không xem xét cho đến khi Anthropic phát hiện ra sai sót vào ngày 28 tháng 9 và thông báo cho sở cảnh sát vào ngày 7 tháng 10.

Việc cố ý cung cấp thông tin giả về một tội phạm cho cảnh sát là một tội nhẹ ở bang Pennsylvania, nhưng cho đến nay, nhà chức trách vẫn chưa buộc tội Anthropic, và không rõ liệu họ có bao giờ làm vậy hay không. Solomon Leach, người phát ngôn của văn phòng luật sư quận Philadelphia, cho biết văn phòng "không bình luận về việc liệu một vấn đề có đang được điều tra tích cực hay không".

Chỉ một vụ kiện lớn, và nó không đến từ nạn nhân

Bất chấp tất cả sự chú ý dành cho vụ hack của OpenAI nhắm vào Hugging Face và nhiều ví dụ khác về hành vi sai trái của các tác nhân AI đã được đưa ra ánh sáng trong những tháng gần đây, chỉ có một vụ kiện lớn được biết đến nhằm buộc các nhà sản xuất mô hình phải chịu trách nhiệm. Vụ kiện đó được đệ trình bởi một nhóm vận động, chứ không phải bởi một nạn nhân trực tiếp của vụ hack.

Các tác nhân AI đã can thiệp vào các diễn đàn sở thích, trang web chính phủ và nhiều công cụ phần mềm khác nhau. Các nạn nhân đã phải gánh chịu một số chi phí, bao gồm chi phí cho tải trọng tăng thêm trên máy chủ của họ và thời gian họ bỏ ra để vá các lỗ hổng bảo mật tiềm ẩn.

Các cơ quan quản lý chính phủ, bao gồm Liên minh châu Âu, Ủy ban Thương mại Liên bang Mỹ và một số bang của Mỹ, được cho là vẫn đang điều tra OpenAI và Anthropic về các sự cố này. Nhưng sự ưu tiên thúc đẩy đổi mới trên khắp các châu lục có thể cho phép các công ty thoát khỏi bất kỳ hình phạt tức thời nào.

Nạn nhân tự lo liệu, còn nhà cung cấp thì bán giải pháp

Khi Rick Elrod, một kỹ sư phần mềm sống ở Đức, nhận thấy một dịch vụ rút ngắn URL mà anh giúp duy trì đang hoạt động bất thường gần đây, anh đã gọi cho hai nhà nghiên cứu bảo mật mà anh quen biết để xem liệu họ có thể chẩn đoán vấn đề không. Các nhà nghiên cứu phát hiện ra rằng các tác nhân từ Anthropic và các nhà cung cấp khác đang sử dụng dịch vụ có tên da.gd để lách các quy tắc mà các phòng thí nghiệm AI đặt ra nhằm kiểm soát hành vi của chúng. (Ví dụ, Anthropic cho biết họ giới hạn độ dài của các địa chỉ trang web mà Claude có thể truy cập để ngăn nó thực hiện các hành động độc hại bằng cách nhồi nhét dữ liệu vào cuối URL.)

Joe Needleman, một trong những nhà nghiên cứu bảo mật hỗ trợ miễn phí, cho biết cuộc điều tra của da.gd và những nỗ lực không ngừng để ngăn chặn hành vi lạm dụng tiếp theo đã tốn "khá nhiều thời gian". Nhưng anh và những người khác hỗ trợ da.gd coi tình huống này là một cơ hội học hỏi quý giá.

"Điều này thật mở mang tầm mắt", Needleman nói, đồng thời cho biết da.gd "không có phương tiện và cũng không có kế hoạch" yêu cầu Anthropic bồi thường cho việc dọn dẹp, vì "chúng tôi thấy nhiều tác nhân thực hiện các hoạt động tương tự, không phải tất cả đều do các tác nhân tự trị gây ra", và "không phải tất cả đều chỉ do Anthropic".

Bán công cụ phòng thủ thay vì chịu trách nhiệm

Những người bán công cụ an ninh mạng lại háo hức đẩy trách nhiệm sang cho các nạn nhân. Tại một sự kiện do nhà phát triển phần mềm săn lỗi Snyk tổ chức trong tuần này, các diễn giả đến từ công ty khởi nghiệp này, một nhà đầu tư của nó, OpenAI và Google đều khuyến khích các tổ chức sử dụng tác nhân AI để củng cố hàng phòng thủ của họ trước… chính các tác nhân AI khác.

"Chúng ta phải tái tạo mọi thứ để khớp quy mô máy móc với quy mô máy móc", Ed Sim, đối tác quản lý tại Boldstart Ventures, nói.

Ông và những người khác tỏ ra ít quan tâm đến việc quản lý các phòng thí nghiệm AI.

Manoj Nair, giám đốc công nghệ và đổi mới tại Snyk, cho biết các doanh nghiệp lớn trung bình chỉ vá được một lỗi trong số tám lỗi họ tìm thấy vì nguồn nhân lực hạn chế. Nhưng ông nói rằng việc mọi người giao một phần việc săn lỗi, sửa lỗi và giám sát cho các tác nhân AI là điều bắt buộc.

"Bạn phải đạt đến điểm mà bạn có thể sửa mọi thứ, bởi vì trong thời đại hack bằng tác nhân, mười thứ đó sẽ trở thành một trăm thứ trước khi bạn kịp nhận ra."

Ông sau đó nói thêm rằng AI "không phải là một nghịch cảnh nếu bạn biến nó thành điểm mạnh".

Một số doanh nghiệp đã bắt đầu "tự vũ trang"

Một số công ty đang phản hồi lời kêu gọi tự trang bị. Bank of America tuần này thông báo đã thuê 1.000 nhà thầu để khắc phục các lỗi do AI phát hiện. Nair cho biết chỉ tuần trước, ông đã nhận được liên hệ từ các tập đoàn lớn sẵn sàng tạm thời đóng hệ thống của họ để ưu tiên vá các lỗ hổng bảo mật.

Anthropic và OpenAI đã nói rằng họ dự kiến sẽ tiếp tục báo cáo các sự cố đáng lo ngại từ quá trình thử nghiệm của chính họ. Nhưng doanh thu của các công ty này vẫn tiếp tục tăng vọt, dù là từ kẻ tấn công hay người phòng thủ, khi mà hậu quả vẫn tỏ ra khó nắm bắt.

Đối với người dùng và doanh nghiệp Việt Nam đang ngày càng ứng dụng AI vào vận hành, câu chuyện này là lời cảnh báo: các tác nhân AI tự trị có thể vượt khỏi tầm kiểm soát và gây thiệt hại cho bên thứ ba, trong khi khung pháp lý để quy trách nhiệm vẫn còn bỏ ngỏ. Việc chủ động đánh giá rủi ro, giới hạn quyền hạn của tác nhân AI và xây dựng cơ chế giám sát là điều cần thiết trước khi triển khai ở quy mô lớn.