Anthropic đề xuất dự luật an toàn AI gây tranh cãi: Chặn mô hình nếu nguy cơ khiến hơn 50 người tử vong

Anthropic vừa đưa ra dự thảo luật an toàn AI mà hãng hy vọng Quốc hội Mỹ có thể xem xét thông qua, trong đó đặt ra các ngưỡng cụ thể để xác định "rủi ro thảm khốc". Thế nhưng, đề xuất này đang dấy lên tranh luận vì điều kiện đi kèm: cơ quan liên bang chỉ được chặn phát hành mô hình AI khi có sự chấp thuận của thẩm phán.

Ngưỡng rủi ro thảm khốc: 50 người và 1 tỷ USD

Theo thông tin từ Politico, dự thảo luật của Anthropic xác định những kịch bản mà việc phát hành một mô hình AI có thể bị chặn lại. Đó là khi tồn tại "rủi ro sắp xảy ra và có thể lường trước", cụ thể là hơn 50 người đối mặt nguy cơ tử vong, hoặc thiệt hại tài sản vượt quá 1 tỷ USD.

Những rủi ro này phải xuất phát từ một trong ba nguyên nhân: việc tạo ra hoặc phát hành vũ khí sinh học, mô hình trốn tránh sự kiểm soát của nhà phát triển, hoặc một cuộc tấn công mạng.

Đáng chú ý, các con số 50 người và 1 tỷ USD khá tương đồng với nội dung của Dự luật Thượng viện số 53 (SB 53) của bang California vừa được thông qua, nơi cũng định nghĩa những kịch bản này là "rủi ro thảm khốc".

Cơ chế đánh giá độc lập nhưng còn nhiều lỗ hổng

Dự luật của Anthropic đề xuất rằng việc phân tích khả năng gây thảm họa của một mô hình có thể được thực hiện bởi các "đánh giá viên độc lập" đăng ký với Bộ Thương mại Mỹ.

Các đánh giá viên này thậm chí có thể được chính các phòng thí nghiệm AI trả tiền, miễn là "khoản thanh toán không phụ thuộc vào kết quả đánh giá". Tuy nhiên, vẫn chưa rõ hệ thống này đảm bảo được điều gì để các khoản tiền không thể gây ảnh hưởng tới kết quả đánh giá.

Trước đó, Demis Hassabis — Chủ tịch DeepMind — từng đề xuất rằng cơ quan quản lý AI tự trị nên mô phỏng theo mô hình của ngành tài chính, cụ thể là tổ chức FINRA (Cơ quan Quản lý Ngành Tài chính).

Điểm gây tranh cãi: Cần thẩm phán mới được chặn mô hình

Quy trình trong dự thảo được mô tả như sau: khi các đánh giá viên xác định có rủi ro thảm khốc sắp xảy ra, họ có 72 giờ để liên hệ với Bộ Thương mại. Bộ này sau đó phải yêu cầu một thẩm phán tại Washington D.C. ra lệnh dừng phát hành mô hình.

Điều đáng chú ý là dự luật sẽ nghiêm cấm bất kỳ cơ quan liên bang nào tự quyết định chặn phát hành mô hình. Đây chính là điểm khiến giới quan sát đặt câu hỏi: liệu đề xuất này có thực sự bảo vệ công chúng, hay vô tình tạo ra rào cản khiến cơ quan quản lý khó hành động kịp thời.

Bức tranh rộng hơn về quản lý AI

Người phát ngôn của Anthropic xác nhận với Politico về dự thảo và cho biết: "Dự luật này đại diện cho các đề xuất được nêu trong Khung AI Tiên tiến của Anthropic, điều mà chúng tôi đã vận động với các nhà lập pháp liên bang và tiểu bang từ tháng Sáu."

Các rủi ro lý thuyết trong dự thảo có phần xa rời những sự cố đang được ngành công nghệ quan tâm gần đây. Dù có những cảnh báo về nguy cơ thiệt hại sinh mạng, mối lo chính hiện nay lại là hack bằng tác nhân AI (agentic hacking) — hàng loạt vụ việc các chương trình AI dường như không tuân lệnh người vận hành và tấn công các trang web trên internet mở.

Điều trớ trêu là dù các phòng thí nghiệm liên tục cảnh báo công nghệ họ bán có thể đe dọa đến nền văn minh nhân loại, họ lại phần lớn phản đối sự giám sát bắt buộc của chính phủ. Thay vào đó, họ đề xuất hệ thống đánh giá viên tự nguyện — những quan sát viên bên thứ ba được cho là "trung lập", đặt bên trong các tổ chức AI để giám sát mô hình.

Dù vậy, đề xuất lập pháp của Anthropic vẫn có phần tiến bộ hơn so với các ý tưởng từ ngành, bao gồm cả Nvidia — nơi CEO Jensen Huang mới đây lập luận rằng ngành AI không cần bất kỳ luật mới nào cả.

Góc nhìn cho độc giả Việt Nam

Với các doanh nghiệp và nhà phát triển AI tại Việt Nam, diễn biến này cho thấy xu hướng quản lý AI trên thế giới đang dần hình thành các khung pháp lý cụ thể, thay vì chỉ dừng ở khuyến nghị tự nguyện. Việc theo dõi sát các đề xuất như của Anthropic, SB 53 của California hay quan điểm từ các ông lớn công nghệ sẽ giúp các bên liên quan trong nước chuẩn bị tốt hơn cho bộ quy tắc AI tiềm năng trong tương lai.