Ai được quyền định ra luật chơi cho AI?

Trí tuệ nhân tạo đang định hình lại thế giới chúng ta đang sống. Trong vòng một thế hệ, cách chúng ta khám phá thuốc mới, quản lý lưới điện và bảo vệ hạ tầng quốc gia sẽ thay đổi hoàn toàn. Nhiều người đã nhận ra điều này và đang nỗ lực xây dựng tương lai đó một cách có trách nhiệm. Nhiều người khác lại đánh giá thấp quy mô và tốc độ của sự thay đổi sắp tới.

Nhưng câu hỏi mà ít ai đặt ra một cách rõ ràng là: liệu một nhóm nhỏ các công ty AI thống lĩnh thị trường tại Thung lũng Silicon có nên được quyền định ra luật lệ và tiêu chuẩn an toàn cho một công nghệ mang tính thế hệ, áp dụng cho toàn thế giới? Và cùng lúc đó, họ cũng quyết định luôn tốc độ phát triển của công nghệ này?

Bài học từ quá khứ: khi "an toàn" trở thành công cụ độc quyền

Chúng ta từng thử cách làm này và kết quả rất tồi tệ. Núp dưới chiêu bài bảo vệ công chúng, các thế lực độc quyền nhóm này đang xin phép bẻ cong các quy tắc cạnh tranh và đòi quyền áp đặt điều kiện cho tất cả những người còn lại.

Năm 1975, Ủy ban Chứng khoán và Giao dịch Hoa Kỳ (SEC) cần xếp hạng trái phiếu đáng tin cậy cho các quy định về vốn. Cơ quan này chỉ định ba công ty là Tổ chức Xếp hạng Thống kê được Quốc gia Công nhận, nhưng không bao giờ công bố tiêu chí để bất kỳ ai khác có thể đạt được danh hiệu đó. Hai mươi lăm năm sau, vẫn chỉ có ba tổ chức này. Rồi họ xếp hạng các chứng khoán cho vay dưới chuẩn ở mức AAA và suýt nhấn chìm nền kinh tế toàn cầu.

Châu Âu lặp lại thí nghiệm tương tự vào năm 1985. Các nhà sản xuất ô tô vận động hành lang để có được miễn trừ chống độc quyền toàn diện, với lập luận rằng xe hơi hiện đại là những cỗ máy phức tạp, quan trọng về an toàn. Nhưng kết quả không phải là xe an toàn hơn. Ủy ban châu Âu phải mất khoảng hai mươi lăm năm cải cách để tháo gỡ, và để thiết lập điều lẽ ra phải rõ ràng ngay từ đầu: hoàn toàn có thể duy trì tiêu chuẩn an toàn nghiêm ngặt mà không trao cho các ông lớn độc quyền trong việc đáp ứng tiêu chuẩn đó.

Trong cả hai trường hợp, mục tiêu được tuyên bố đều là an toàn. Nhưng kết quả là một cấu trúc thị trường bảo vệ các ông lớn và hạn chế cạnh tranh.

Điều gì đang được đề xuất

Điều này đưa chúng ta đến lộ trình được công bố gần đây bởi Dario Amodei, CEO của Anthropic, trong đó yêu cầu các chính phủ miễn trừ luật chống độc quyền dưới danh nghĩa an toàn.

Cần nói rõ điều chúng tôi đồng ý: việc đánh giá độc lập các hệ thống AI có năng lực cao là ý tưởng tốt và chúng tôi ủng hộ. Tuy nhiên, nhiều khía cạnh của đề xuất đặt ra những câu hỏi căn bản: ai viết ra tiêu chuẩn mà các đơn vị đánh giá đó áp dụng? Ai tiến hành hoặc giám sát việc đánh giá? Ai được tham gia vào cuộc thảo luận định ra luật lệ?

Theo đề xuất, một nhóm nhỏ các phòng thí nghiệm mạnh nhất, đặt tại một quốc gia, sẽ cùng thống nhất tiêu chuẩn chung và giới hạn tốc độ phát triển công nghệ. Vì thông thường các đối thủ cạnh tranh thỏa thuận hạn chế sản lượng là bất hợp pháp, kế hoạch này xin chính phủ một miễn trừ hẹp để hợp thức hóa sự phối hợp đó. Đồng thời, nó yêu cầu chính phủ buộc mọi nhà phát triển AI khác phải tuân theo những gì nhóm này quyết định.

Vấn đề không phải là thêm một hay hai công ty nữa vào cuộc thảo luận. Vấn đề là việc tồn tại một danh sách như vậy, trong khi các quyết định đưa ra ảnh hưởng đến mọi công ty, mọi chính phủ và mọi công dân chưa từng được hỏi ý kiến.

Rủi ro bị định nghĩa theo quy mô

Một chế độ an toàn do một vài phòng thí nghiệm thiết kế sẽ chỉ nghiêm ngặt với những rủi ro mà hệ thống an toàn của họ đã được xây dựng để đánh giá, và hoàn toàn im lặng với mọi thứ khác.

Trong các khuôn khổ hiện có, rủi ro được định nghĩa như một hàm của quy mô, khiến những công ty sở hữu hệ thống khổng lồ trở thành những đơn vị duy nhất đủ tư cách phán xét. Loại rủi ro được coi là liên quan để đánh giá cũng được định sẵn, thay vì để tranh luận khoa học. Ví dụ, trong giới nghiên cứu có sự bất đồng thực sự về việc bao nhiêu năng lực tấn công đến từ kích thước mô hình thô so với lớp vỏ bọc quanh nó. Những mô hình nhỏ hơn được điều phối tốt, sử dụng công cụ và bước xác minh, có thể làm được những việc mà mô hình lớn không làm được.

Bốn trụ cột cho một khuôn khổ tốt hơn

Vậy điều gì sẽ cho phép phát triển AI an toàn và có trách nhiệm? Bốn trụ cột sau đây:

Khung rủi ro dựa trên bằng chứng. Trước khi bất kỳ ai bắt buộc kiểm thử hay đánh giá, chúng ta cần một bản ghi được thống nhất và công bố về những tác hại mà chúng ta quan ngại, năng lực AI nào gây ra tác hại nào, trong điều kiện và bối cảnh nào, và ở điểm nào chính phủ nên can thiệp. Bản ghi này phải được xây dựng trên tất cả các quốc gia phát triển công nghệ, và công khai thay vì đóng cửa dưới danh nghĩa an ninh quốc gia. Quy tắc phải ràng buộc dựa trên những gì hệ thống AI có thể làm, chứ không phải ai đã tạo ra nó.

Minh bạch bắt buộc. Các nhà phát triển AI nên minh bạch về cách mô hình và hệ thống của họ được xây dựng, mục đích và năng lực dự kiến, những rủi ro tiềm ẩn và các biện pháp giảm thiểu rủi ro đã triển khai. Cần có cơ chế gắn trách nhiệm thực sự khi tác hại thực sự xảy ra.

Kiểm thử theo phạm vi bằng chứng xác định. Các mô hình và hệ thống AI tiên tiến nhất nên được kiểm thử độc lập, nhưng chỉ đối với những năng lực và bối cảnh mà khung rủi ro đã xác định là thực sự nguy hiểm. Trong thực tế, điều đó có nghĩa là khả năng tạo ra tấn công mạng, gian lận tổng hợp và sao chép giọng nói, thao túng ở quy mô lớn, vũ khí vật lý hoặc sinh hóa, và bất cứ thứ gì chạm đến hạ tầng trọng yếu. Điều đó không có nghĩa là kiểm thử mọi hệ thống cho mọi rủi ro.

Cơ chế đảm bảo thực sự. Các tham số xác định cách kiểm thử mô hình AI và cơ chế xác minh phải thực sự độc lập, tương tự cách các tổ chức tài chính được cấp phép, các công ty hàng không duy trì tiêu chuẩn an toàn nghiêm ngặt, và các cơ sở hạt nhân chấp nhận thanh tra.

Những gì bị bỏ qua trong cơn hoảng loạn

Tôi tin rằng nói về khoa học ở đây cực kỳ quan trọng. Gần đây, một nhà nghiên cứu rời bỏ một phòng thí nghiệm lớn với cảnh báo rằng các hệ thống siêu trí tuệ có thể sẽ xóa sổ nhân loại trong vòng một thập kỷ. Một đồng nghiệp cấp cao công khai đồng tình rằng ông đặt xác suất trên mười phần trăm. Tôi không nghi ngờ những lo ngại của họ là chân thành. Nhưng hãy nhớ rằng những con số đó không đến từ bất kỳ thực tế nền tảng nào. Chúng là cảm giác trực giác, được diễn đạt dưới dạng số thập phân, được khuếch đại bởi các giám đốc có lợi ích liên quan và được truyền thông đưa tin như thể đó là phân tích toán học.

Tuyên bố rằng những vấn đề như vậy đồng nghĩa các công cụ này nằm ngoài tầm kiểm soát của chúng ta là một phán đoán chủ quan, không phải một phát hiện khoa học.

Nếu đây thực sự là công nghệ hệ trọng nhất trong lịch sử loài người, thì luật lệ cho nó không thể được viết bởi một nhóm nhỏ các công ty có lợi ích thương mại tương đồng, đứng sau một giấy miễn trừ chống độc quyền. Ở đây không có giai đoạn lấy ý kiến công chúng, không có tham vấn, và không có bỏ phiếu. Công chúng sẽ buộc phải sống với kết quả bất kể thế nào.

Ai viết ra luật lệ?

Chúng ta đang ở một bước ngoặt, và những quyết định trong vài tháng tới sẽ định hình nền kinh tế toàn cầu trong một thế hệ. Rủi ro là có thật và cần những biện pháp bảo vệ nghiêm túc, có thể thực thi được. Chính vì vậy, luật lệ không thể được soạn thảo sau một giấy miễn trừ bởi chính những công ty mà chúng nhằm mục đích quản lý.

Hạ tầng trọng yếu không thể được bảo vệ bằng cách thuê năng lực quốc gia từ một thế lực độc quyền nước ngoài đứng sau một giao diện đóng. Bệnh viện, mạng lưới thanh toán và bộ quốc phòng không thể, với thiện chí, đẩy dữ liệu vận hành nhạy cảm nhất và kiến thức độc quyền của họ lên máy chủ của người khác rồi mù quáng tin vào một hợp đồng nhà cung cấp.

An ninh đến từ chủ quyền, triển khai cục bộ và đa dạng công nghệ. Một thị trường cạnh tranh với nhiều nhà cung cấp có năng lực có thể hấp thụ thất bại của một đơn vị. Một tập đoàn được nhà nước hậu thuẫn thì không có chỗ nào để che giấu.

Luật lệ về AI rốt cuộc vẫn sẽ được viết ra. Điều còn bỏ ngỏ là liệu chúng được viết bởi một nhóm mà ai cũng có thể tham gia và với bằng chứng mà ai cũng có thể kiểm tra, hay bởi một nhóm nhỏ các công ty trong một căn phòng đóng kín cửa.