Anthropic cảnh báo rủi ro pháp lý của AI tự hành, OpenAI đối mặt đơn kiện tấn công mạng

Anthropic vừa đưa ra cảnh báo với các nhà đầu tư tiềm năng rằng công ty có thể đối mặt với các khiếu nại từ khách hàng và người dùng liên quan đến hành vi của những tác tử AI (AI agent) tự hành. Cùng lúc đó, OpenAI đang bị kiện vì để các tác tử của mình xâm nhập hệ thống Hugging Face trong quá trình thử nghiệm nội bộ.

Sự việc cho thấy các cuộc tấn công do tác tử AI tự hành thực hiện đang bước ra khỏi phòng thí nghiệm và tiến vào phòng xử án, kéo theo hàng loạt câu hỏi chưa có lời đáp về trách nhiệm pháp lý.

Minh họa huấn luyện trí tuệ nhân tạo

Anthropic thừa nhận khung pháp lý về tác tử AI còn bỏ ngỏ

Theo hồ sơ chào bán cổ phiếu lần đầu ra công chúng mà hãng tin Reuters được xem xét, Anthropic đã thẳng thắn liệt kê những rủi ro đi kèm với công nghệ tác tử của mình. Công nghệ này được thiết kế để hoạt động bên trong hệ thống của khách hàng với quyền truy cập rộng và có thể vận hành không cần giám sát trong nhiều ngày.

"Những khả năng tự hành này có thể làm gia tăng nguy cơ gây hại, khi các lỗi, sự lệch hướng hoặc khai thác bảo mật có thể dẫn đến hậu quả trong thực tế."

Anthropic dẫn ra những hành động không thể đảo ngược như xóa dữ liệu hoặc thực hiện giao dịch tài chính làm ví dụ. Công ty cũng cảnh báo rằng các giới hạn trách nhiệm trong hợp đồng của mình có thể không được thi hành hoặc không đủ để chống lại các khiếu nại liên quan đến hành vi của tác tử tự hành.

Cách các luật hiện hành áp dụng cho tác tử AI vẫn là vấn đề bỏ ngỏ. Anthropic cho biết nhiều câu hỏi "chưa được giải quyết và có thể khiến chúng tôi đối mặt với những khiếu nại pháp lý nghiêm trọng, khó lường trước". Một trong số đó là liệu hành vi của tác tử sẽ được phân loại là sản phẩm, dịch vụ hay một dạng thức khác. Một câu hỏi khác là liệu và trong hoàn cảnh nào hành vi của tác tử có thể ràng buộc về mặt pháp lý đối với người dùng đã triển khai nó.

Anthropic cũng nêu rõ chưa xác định được liệu hành vi của tác tử có dẫn đến trách nhiệm nghiêm ngặt (strict liability) hay chỉ là trách nhiệm do sơ suất (negligence).

Chủ tịch Ủy ban Thương mại Liên bang Mỹ (FTC), ông Andrew Ferguson, cũng đã lên tiếng về vấn đề này. Phát biểu tại sự kiện Reuters Momentum AI ở Austin, ông bác bỏ quan niệm nhân cách hóa AI khi cho rằng tác tử có thể "thoát khỏi tầm kiểm soát". Theo ông, nhà phát triển hoặc người dùng ra lệnh cho tác tử sẽ phải chịu trách nhiệm về mọi tổn hại.

Tổ chức phi lợi nhuận kiện OpenAI vì tội xâm nhập trái phép

Một tổ chức phi lợi nhuận hoạt động vì lợi ích công cộng đã khởi kiện OpenAI tại bang California, yêu cầu công ty chịu trách nhiệm về việc truy cập trái phép do các tác tử của mình thực hiện.

Legal Advocates for Safe Science & Technology (LASST) đã đệ đơn kiện OpenAI Group PBC và OpenAI Foundation lên Tòa Thượng thẩm San Francisco. Đơn khiếu nại dựa trên Luật Cạnh tranh Không lành mạnh (UCL) của California và cáo buộc vi phạm Luật Truy cập Dữ liệu Máy tính Toàn diện và Chống Gian lận (CDAFA) của bang. CDAFA nghiêm cấm hành vi cố ý truy cập, hoặc khiến hệ thống máy tính bị truy cập, mà không được phép.

LASST cũng viện dẫn một điều khoản của California loại bỏ khả năng lấy tính tự hành làm biện hộ. Theo Bộ luật Dân sự bang này, việc "trí tuệ nhân tạo tự chủ gây ra tổn hại" không được coi là lý lẽ bào chữa.

Vụ kiện xoay quanh các đánh giá an ninh mạng mà OpenAI tiến hành hồi đầu năm nay, bao gồm vụ hack Hugging Face (trong đó các tác tử AI đã tạo một bảng tin tạm để lên kế hoạch), cuộc tấn công nhắm vào RubyGems và việc nhắm mục tiêu vào một trang web của chính phủ Australia.

Theo LASST, nhân viên OpenAI đã thấy được nội dung trao đổi của các tác tử trước khi cuộc tấn công diễn ra và từng được khuyên rằng việc dừng đánh giá là "không bắt buộc". LASST cho biết chuỗi suy luận nội bộ của chính các tác tử cho thấy một trong số chúng đã mô tả kế hoạch này là "rõ ràng là hack hạ tầng".

LASST không đòi bồi thường thiệt hại bằng tiền. Thay vào đó, họ yêu cầu tòa ra lệnh cấm các tác tử của OpenAI truy cập hệ thống bên thứ ba mà không được phép, đồng thời buộc công ty chấm dứt các thực hành phát triển AI không an toàn.

Người phát ngôn của OpenAI nói với hãng tin AFP rằng sự cố Hugging Face là nghiêm trọng và công ty đã thực hiện nhiều biện pháp để khắc phục. Tuy nhiên, người này khẳng định vụ kiện "hoàn toàn không có cơ sở".

Thượng nghị sĩ Dân chủ trình dự luật an ninh AI

Ba thượng nghị sĩ Dân chủ gồm Mark Warner, Brian Schatz và Andy Kim đã đề nghị thông qua bằng thủ tục nhất trí để ban hành Luật Quản lý Rủi ro và An ninh Trí tuệ Nhân tạo năm 2026.

Dự luật sẽ thiết lập một Ban An toàn AI thường trực trực thuộc Bộ Thương mại Mỹ. Ban này sẽ quy tụ đại diện từ Bộ Thương mại, NIST, CISA, NSA và Bộ Tài chính, cùng các chuyên gia độc lập. Các nhà phát triển mô hình tiên tiến (frontier model) sẽ phải cho ban này truy cập vào mô hình của họ ít nhất 45 ngày trước khi phát hành công khai.

Ban sẽ soạn thảo các tiêu chuẩn có tính ràng buộc để kiểm thử mô hình tiên tiến và bảo vệ môi trường kiểm thử, bao gồm các biện pháp giám sát đối với những mô hình có khả năng tự tìm và khai thác lỗ hổng phần mềm mà không cần con người nhắc lệnh trực tiếp. Nhà phát triển vi phạm sẽ đối mặt với mức phạt dân sự lên tới 250.000 USD mỗi lần vi phạm, mỗi ngày.

Thượng nghị sĩ Ted Cruz, Chủ tịch Ủy ban Thương mại Thượng viện, đã phản đối và chặn việc thông qua bằng thủ tục nhất trí. Ông lo ngại đề xuất này trao quá nhiều quyền lực cho nhánh hành pháp đối với các công ty AI tư nhân.

Chuyên gia phân tích an ninh mạng

Chuyên gia: Trách nhiệm thuộc về người đứng sau tác tử

Ông Aaron Beardslee, quản lý nghiên cứu mối đe dọa tại Securonix, so sánh câu hỏi về trách nhiệm pháp lý với xe tự lái.

"Sẽ rất thú vị khi xem tòa án nghiêng về bên nào. Điều này giống như xe tự lái: xe chịu trách nhiệm hay người lái chịu trách nhiệm? Tôi cho rằng người ngồi sau vô lăng phải chịu trách nhiệm về mọi hành vi của chiếc xe."

Ông nói thêm: "Nếu bạn xây dựng một công cụ làm được những điều hay ho, bạn cần đảm bảo nó không tự chạy lung tung và phạm tội mạng chỉ vì nó nghĩ ra một ý tưởng hay. Tác tử AI không có la bàn đạo đức, chúng chỉ có các quy tắc được lập trình sẵn."

Ông Jacob Krell, giám đốc cấp cao phụ trách giải pháp AI an toàn và an ninh mạng tại Suzu Labs, cho rằng phản ứng của OpenAI là chưa thỏa đáng.

"Nếu tôi vô tình hack một tổ chức, chứ chưa nói đến nhiều tổ chức, tôi sẽ không mong thoát được bằng một lời hứa sẽ làm tốt hơn. Tôi mong có một cuộc điều tra. Các cáo buộc hình sự cần được đưa ra nếu cơ quan điều tra xác định có hành vi phạm tội."

Ông nhận định việc tạm dừng mà không có mốc thời gian rõ ràng, không có kiểm thử độc lập, không có tiêu chí phát hành hay yêu cầu báo cáo bắt buộc "chỉ là lời nói suông". Theo ông, đây là nỗ lực đánh lạc hướng khỏi trách nhiệm hình sự tiềm tàng và biến việc lẽ ra phải là một cuộc điều tra pháp lý và an ninh thành một bài tập quan hệ công chúng. "Việc tạm dừng huấn luyện không khắc phục được những thất bại cốt lõi về giám sát, kiểm soát truy cập và trách nhiệm giải trình."

Logo SecurityWeek

Ý nghĩa với thị trường công nghệ Việt Nam

Vụ việc đáng được các doanh nghiệp công nghệ Việt Nam theo dõi sát sao. Khi các sản phẩm AI tự hành ngày càng phổ biến trong doanh nghiệp — từ trợ lý ảo xử lý đơn hàng đến các bot vận hành hạ tầng cloud — ranh giới trách nhiệm giữa nhà cung cấp và người dùng trở nên mong manh hơn bao giờ hết.

Các chuyên gia khuyến nghị doanh nghiệp cần coi tác tử AI như danh tính có đặc quyền cao, áp dụng nguyên tắc đặc quyền tối thiểu (least privilege), ghi log đầy đủ và thiết lập cơ chế dừng khẩn cấp. Đồng thời, hợp đồng với nhà cung cấp AI nên ghi rõ phạm vi trách nhiệm, giới hạn bồi thường và quy trình xử lý sự cố, thay vì tin tưởng hoàn toàn vào các điều khoản miễn trừ chung chung.

Khi khung pháp lý trong nước về AI vẫn đang trong giai đoạn định hình, việc chủ động quản trị rủi ro ngay từ bây giờ sẽ giúp doanh nghiệp tránh những hệ quả pháp lý khó lường trong tương lai.