Chính sách cho kỷ nguyên AI bùng nổ: Cân bằng giữa tốc độ phát triển và an toàn xã hội

Trong một trong những tình tiết phụ của Chúa tể những chiếc nhẫn, hai người Hobbit cố gắng đánh thức Treebeard—một cái cây khổng lồ thông minh nhưng chậm chạp—để bảo vệ khu rừng của mình khỏi một đội quân đang chặt phá nó. Vấn đề là Treebeard hoạt động với tốc độ rất khác so với người Hobbit. Hắn mất cả ngày chỉ để nói lời chào với một cái cây khác, nên việc khiến hắn và đồng loại hành động đủ nhanh là gần như không thể.

Giao điểm giữa AI và các thể chế chính trị của chúng ta hiện nay cảm giác cũng giống như người Hobbit và Treebeard. AI đang tiến bộ với tốc độ chóng mặt—chỉ trong bốn năm, các mô hình AI đã đi từ chỗ khó viết được một dòng code mạch lạc đến việc viết phần lớn mã nguồn tại các công ty AI lớn. Những bước tiến tương tự cũng đã đạt được trong sinh học, vật lý, toán học, tài chính, luật pháp, dịch thuật và nhiều lĩnh vực khác. Các định luật mở rộng quy mô (scaling laws) của AI, dự đoán sự gia tăng theo cấp số nhân về khả năng nhận thức chung cùng với sự gia tăng sức mạnh tính toán, hiện đã có hơn một thập kỷ bằng chứng thực nghiệm hỗ trợ. Nếu các định luật này tiếp tục chỉ thêm một hoặc hai năm nữa, chúng ta có khả năng sẽ đạt được thứ mà tôi gọi là AI Mạnh mẽ (Powerful AI), hay "một quốc gia gồm những thiên tài trong một trung tâm dữ liệu".

Ngược lại, chính sách—đặc biệt là pháp luật—di chuyển rất chậm. Thường thì điều này có lý do chính đáng: chính phủ có những quyền lực to lớn và thường là tốt nhất nếu chúng không được sử dụng quá vội vàng. Nhưng sự lệch pha về thời gian này vẫn rất đau đớn: trong vài năm mà Quốc hội có thể mất để hành động, AI có thể đi từ một món đồ chơi thú vị trở thành một quốc gia thực sự của những thiên tài.

Trong vài năm qua kể từ khi AI trở thành một công nghệ thương mại lớn, những người trong chúng ta muốn xử lý nó một cách có trách nhiệm đã đối mặt với một tình thế tiến thoái lưỡng nan. Chúng ta có thể nhìn thấy rõ nơi mà sự tăng trưởng theo cấp số nhân đang hướng tới: chúng ta nghiêm túc nghi ngờ rằng trong vài năm tới, AI sẽ là một trong những công nghệ hiếm hoi thay đổi cơ bản toàn bộ bối cảnh chính sách, giống như cách vũ khí hạt nhân thay đổi địa chính trị và cuộc cách mạng công nghiệp thay đổi cơ bản mọi vấn đề kinh tế và xã hội. Nhưng với những người chỉ nhìn vào những gì AI có thể làm tại thời điểm đó, nó trông giống như một công nghệ bình thường hơn nhiều—có lẽ tương tự như ứng dụng tiêu dùng mới nhất hoặc tiền điện tử. Rất khó để thuyết phục hầu hết các nhà hoạch định chính sách và công ty rằng bất kỳ thái độ nào khác ngoài thái độ tự do (laissez-faire) là hợp lý. Và công bằng mà nói, việc các tác động cực đoan của AI chưa xuất hiện, và chúng ta không biết chính xác chúng sẽ mang hình hài như thế nào, đã khiến việc thiết kế các chính sách đúng đắn trở nên khó khăn ngay cả khi có ý chí hành động.

Cho đến những tháng gần đây, bằng chứng về sức mạnh đáng kinh ngạc của AI, cũng như rủi ro của nó, đã trở nên không thể phủ nhận. Có lẽ ví dụ điển hình nhất là Claude Mythos Preview và sự phát hiện ra rằng các mô hình tiên tiến (frontier models) tạo ra rủi ro rất thực đối với an ninh mạng, tạo ra tiềm năng gây gián đoạn cho lĩnh vực tài chính, cơ sở hạ tầng thiết yếu và an ninh quốc gia. Mythos Preview đã làm đảo lộn bối cảnh an ninh mạng toàn cầu. Nhưng ý nghĩa quan trọng hơn của nó là nó chứng minh không thể nghi ngờ rằng các mô hình AI hiện nay là những công cụ có tầm quan trọng chiến lược toàn cầu và quốc gia. Những rủi ro mạng mà các mô hình cấp Mythos đưa ra sẽ không phải là rủi ro cuối cùng chúng ta phải đối mặt. Tôi tin rằng rủi ro sinh học có thể sẽ sớm theo sau, và rủi ro tự trị nghiêm trọng của AI có thể không còn xa xôi.

Bây giờ, trên quy mô toàn cầu và tập thể, chúng ta cần kích hoạt một bộ máy chính sách chậm chạp và run rẩy để đối phó với những rủi ro và cơ hội sẽ tăng trưởng nhanh chóng từ đây. Nhiều nhà hoạch định chính sách đang thể hiện sự cởi mở hơn trong việc hành động, và thật đáng khích lệ khi thấy các đồng nghiệp của chúng ta đi đến cùng những vị trí mà chúng ta đã vận động trong vài năm qua. Điều này là tốt, nhưng tôi lo ngại rằng những hành động sớm này chậm hơn ít nhất một năm so với tiến độ nhanh chóng của AI. Bài viết này là một nỗ lực để thu hẹp khoảng cách đó: phác thảo nơi mà sự tăng trưởng theo cấp số nhân đang đứng, và hành động tập thể cần thiết để đáp ứng thời điểm này.

Tôi sẽ tập trung vào năm lĩnh vực chính sách thường trực cần được tái tưởng tượng trong một thế giới AI: quy định và an toàn công cộng, kinh tế vĩ mô và chính sách thuế, đổi mới khoa học, sự cân bằng quyền lực giữa nhà nước và xã hội, và địa chính trị.

1. Quy định và an toàn công cộng

Mọi công nghệ hoặc sản phẩm mới đều có cả lợi ích và tác hại, do đó tạo ra một tình thế tiến thoái lưỡng nan giữa đổi mới và an toàn. Quy định các sản phẩm làm cho chúng ít có khả năng gây hại và đã đóng một vai trò quan trọng trong việc cải thiện cuộc sống trên toàn thế giới, nhưng nó cũng có thể trực tiếp làm giảm lợi ích của chúng và gián tiếp triệt tiêu động lực đổi mới.

Tuy nhiên, hiện nay rủi ro đã rõ ràng hiện hữu. Đã đến lúc vượt qua sự minh bạch để tiến tới các quy định ràng buộc hơn và nghiêm ngặt hơn đối với AI. Tôi tin rằng sự so sánh tốt nhất, ít nhất là ở giai đoạn hiện tại của sự tăng trưởng theo cấp số nhân, là với ô tô, máy bay hoặc thuốc men—những công nghệ mạnh mẽ thiết yếu cho nền kinh tế hiện đại, nhưng có khả năng giết chết số lượng lớn người nếu được thiết kế hoặc vận hành kém. Do đó, tôi tin rằng chúng ta nên mô hình hóa quy định AI dựa trên các cơ quan như Cục Hàng không Liên bang (FAA). Các mô hình AI tiên tiến, giống như máy bay, nên được yêu cầu trải qua thử nghiệm kỹ thuật và kiểm toán, và việc phát hành của chúng nên bị chặn hoặc đảo ngược như một mối đe dọa đến an toàn công cộng nếu chúng không đáp ứng các tiêu chuẩn an toàn cao.

Đề xuất của chúng tôi bao gồm các yếu tố sau:

• Các mô hình trên ngưỡng tính toán nhất định phải trải qua thử nghiệm bắt buộc bởi bên thứ ba có trình độ về mức độ rủi ro của chúng trong bốn lĩnh vực cụ thể: an ninh mạng, vũ khí sinh học, mất kiểm soát các hệ thống AI, và R&D tự động có thể tăng tốc các rủi ro khác.
• Chính phủ nên có quyền chặn hoặc ngăn chặn việc triển khai mô hình nếu được xác định, dựa trên đánh giá của bên thứ ba, là mang lại rủi ro không thể chấp nhận được.
• Đánh giá của bên thứ ba có thể được thực hiện bởi một cơ quan chính phủ (tương tự như FAA) hoặc một tập hợp các tổ chức tư nhân được chính phủ ủy quyền và kiểm tra để đánh giá các mô hình theo một số tiêu chuẩn nhất định.
• Các công ty AI phát triển các mô hình AI tiên tiến phải có các tiêu chuẩn an ninh mạnh mẽ bảo vệ trọng số mô hình của họ, nên tiến hành thử nghiệm xâm nhập (red teaming) thường xuyên, và nên làm việc với chính phủ để phòng thủ trước các tác nhân đe dọa lớn.

2. Kinh tế vĩ mô và chính sách thuế

Các chính phủ từ lâu đã đối mặt với vấn đề làm thế nào để khuyến khích tăng trưởng kinh tế đồng thời cung cấp các dịch vụ công quan trọng và đảm bảo những người kém may mắn được chăm sóc. Một tiền đề quan trọng (và thường là đúng) của các cuộc tranh luận này là tăng trưởng kinh tế mong manh và khó đạt được.

Tôi nghi ngờ rằng AI mạnh mẽ có thể làm đảo lộn giả định này. Nếu AI đạt được khả năng thực hiện hầu hết các nhiệm vụ nhận thức tốt hơn nhiều so với con người, có lý do để tin rằng nó có thể dẫn đến tăng trưởng kinh tế cực kỳ nhanh chóng và mạnh mẽ thông qua việc tăng tốc khoa học, công nghệ và hiệu quả vận hành. Nhưng vì chính những lý do đó, AI cũng có thể đóng vai trò như một chất thay thế kinh tế tổng quát hơn cho khả năng nhận thức của con người so với các công nghệ trước đây, đồng thời thay đổi nền kinh tế nhanh hơn nhiều so với các công nghệ trước đây. Do đó, hợp lý khi nghĩ rằng AI có thể gây ra những gián đoạn lớn hơn nhiều cho thị trường lao động so với các công nghệ trước đây, và có thể là những gián đoạn kéo dài hơn.

Trong tinh thần đó, một số can thiệp chính sách chính có thể hữu ích bao gồm:

• Đo lường và theo dõi: Các chính phủ có thể mở rộng đáng kể thống kê kinh tế của họ để theo dõi kỹ hơn việc thay thế lao động bởi AI.
• Các ưu đãi ủng hộ việc làm: Một loạt các ưu đãi chính sách ủng hộ việc làm có thể giúp làm chậm hoặc giảm thiểu việc thay thế lao động, bao gồm: các chính sách bảo hiểm tiền lương bồi thường cho người dân khi họ phải nhận một công việc trả lương thấp hơn, các ưu đãi thuế giữ chân nhân viên để khuyến khích nhà tuyển dụng không sa thải, hoặc trợ cấp đào tạo lực lượng lao động.
• Hỗ trợ kinh tế vĩ mô dài hạn: Nếu việc thay thế lao động do AI gây ra quy mô lớn và làm giảm nhu cầu lao động vĩnh viễn, có thể sẽ cần phải vượt ra khỏi các chương trình ưu đãi đơn thuần để hỗ trợ thu nhập dài hạn cho một phần lớn lực lượng lao động. Các cơ chế như thu nhập cơ bản phổ quát (UBI) có thể được tài trợ thông qua thuế đối với các công ty liên quan hoặc tăng thuế thu nhập vốn.

3. Tăng tốc tác động tích cực của AI

Cũng giống như chúng ta phải vật lộn với sự cân bằng giữa đổi mới và an toàn đối với chính AI, chúng ta phải vật lộn với sự cân bằng tương tự cho các công nghệ có khả năng được AI tăng tốc, chẳng hạn như y sinh, năng lượng hoặc khoa học vật liệu. Tuy nhiên, trong khi bản thân AI có thể mang lại những thách thức mới nổi lên rất nhanh chóng mà chúng ta chưa có kinh nghiệm xử lý, các lĩnh vực khác được AI tăng tốc có khả năng gặp phải một vấn đề rất khác: các hệ thống quy định được thiết kế cho tốc độ đổi mới chậm hơn và không được chuẩn bị để xử lý dòng sản phẩm và tiến bộ mới mà AI sẽ mang lại.

Vì vậy, đối với các ứng dụng hạ nguồn của AI—trái ngược với chính AI—tôi lo ngại hơn về việc bộ máy quy định làm chậm tiến độ (vì nó không thể xử lý tốc độ thay đổi tăng lên) hơn là việc nó không giải quyết được các rủi ro quan trọng. Điều cuối cùng chúng ta muốn là lợi ích của AI bị chậm lại trong khi rủi ro của nó vẫn lớn lao, vì vậy điều quan trọng là phải hành động đối với vấn đề này càng sớm càng tốt.

Vấn đề và giải pháp của nó sẽ biểu hiện khác nhau ở từng lĩnh vực khoa học, thương mại và công nghệ, vì vậy tôi sẽ tập trung vào một lĩnh vực minh họa: đổi mới y sinh. Đây vừa là lĩnh vực có khả năng mang lại lợi ích nhân đạo lớn nhất của AI, vừa là nơi quy định đặc biệt phức tạp. Chúng ta không biết chính xác AI sẽ tăng tốc đổi mới y sinh như thế nào, nhưng có vẻ như nó sẽ:

• Tăng tốc độ đáng kể các ứng viên thuốc mới đi vào quy trình quy định.
• Tăng cường hiệu quả và cải thiện hồ sơ an toàn của các loại thuốc mới.
• Phát triển các ứng viên thuốc cho các bệnh chưa bao giờ được điều trị thành công trước đây.

Rõ ràng, chúng ta không muốn thay đổi mọi thứ theo cách dẫn đến một loạt thuốc giả hoặc các sự cố an toàn rộng rãi. Nhưng một số cải cách tương đối đơn giản có thể khiến FDA, EMA và các cơ quan tương tự thích ứng nhanh hơn với sự tăng tốc khoa học do AI thúc đẩy.

4. Nhà nước và quyền tự do dân sự

Mọi hệ thống chính phủ đều phải đối mặt với câu hỏi về quyền lực của nhà nước và giới hạn của nó. Nhà nước có lợi ích chính đáng, thường mang tính tồn vong, trong việc bảo vệ dân số của mình khỏi các mối đe dọa từ bên trong và bên ngoài. Nhưng trao cho nó quá nhiều quyền lực là con đường dẫn đến độc tài. Các nền dân chủ hiện đại phần lớn đã quản lý sự cân bằng này thành công, nhưng đó là sự cân bằng khó khăn ngay cả trong thời điểm tốt nhất.

AI đe dọa làm đảo lộn sự cân bằng này đồng thời nâng cao mức cược một cách ngoạn mục. Nhưng nếu chúng ta phản ứng nhanh chóng và đáp ứng đúng thời điểm, chúng ta có thể sử dụng AI để tạo ra một thế giới có những đảm bảo về tự do mạnh mẽ và bền vững hơn, cũng như phòng thủ tốt hơn trước các mối đe dọa hơn bất kỳ thứ chúng ta từng có trước đây.

AI mạnh mẽ trong tay sai có thể là công cụ tối thượng của chế độ độc tài, và các biện pháp bảo vệ pháp lý và hiến pháp hiện có của chúng ta không được trang bị đầy đủ để chống lại mối đe dọa này. Về cơ bản, lợi ích khổng lồ của trí tuệ đối với quyền lực trên thế giới, kết hợp với tốc độ tiến bộ nhanh chóng của AI, tạo ra một "cơn bão hoàn hảo" cho việc chiếm đoạt quyền lực bất ngờ bởi một loạt các tác nhân nguy hiểm.

Dưới đây là một số ý tưởng chính sách chúng ta nên cân nhắc:

• Tạo ra các quy tắc trách nhiệm giải trình đáng tin cậy cho vũ khí tự hành hoàn toàn. Các vũ khí tự hành, và đặc biệt là bất kỳ hệ thống tự hành nào điều phối hoặc chỉ đạo chúng, nên được yêu cầu phản hồi với các cơ chế trách nhiệm giải trình hiến pháp và chỉ huy (ví dụ: lệnh tòa án, luật pháp và trách nhiệm giải trình trước các giám sát viên cấp cao của con người) thay vì tuân theo mệnh lệnh một cách mù quáng.
• Cấm sử dụng vũ khí tự hành hoàn toàn trong nước. Trong khi có lý do chính đáng cho sự cần thiết của vũ khí tự hành để phòng thủ trước các kẻ thù nước ngoài, nhưng không có lý do gì để sử dụng chúng chống lại người dân trong nước.
• Đóng lỗ hổng thu thập dữ liệu đại chúng / môi giới dữ liệu. Theo luật hiện hành, dữ liệu mà người Mỹ chia sẻ với các công ty tư nhân (như nhà cung cấp internet) có thể được mua và sử dụng để phân tích đại chúng trong giám sát trong nước và thực thi pháp luật. Khoảng trống trong bảo vệ quyền riêng tư này có từ trước AI, nhưng AI sẽ nâng cao mức cược đáng kể bằng cách làm cho phân tích hàng loạt dữ liệu đó mang tính tiết lộ và hữu ích hơn nhiều so với quá khứ. Lỗ hổng này nên được đóng lại.

5. Đảm bảo sự lãnh đạo của các nền dân chủ

Đã trở thành một bản năng phổ biến, có lẽ phát triển từ kinh nghiệm gần đây với internet và viễn thông, là coi các công nghệ mới về mặt địa chính trị là các công cụ của chính sách thương mại, với mục tiêu là "phân tán ngăn xếp công nghệ của chúng ta trên khắp thế giới". Nhưng tôi tin tưởng rất mạnh mẽ rằng AI là thứ sâu sắc hơn nhiều, thứ gì đó đặt lại toàn bộ bàn cờ và xung quanh đó tất cả chiến lược địa chính trị trong tương lai phải được định hình—giống như vũ khí hạt nhân, nhưng có thể còn hơn thế nữa.

Nếu AI thực sự sớm sẽ là "một quốc gia gồm những thiên tài trong một trung tâm dữ liệu", hoặc bất cứ thứ gì gần giống như vậy, thì AI có khả năng là nguồn thống trị của quyền lực quân sự và kinh tế cho bất kỳ quốc gia nào. Một quốc gia sở hữu AI mạnh mẽ đối mặt với một quốc gia không có nó—hoặc thậm chí đối mặt với một quốc gia chậm hơn AI 3 năm—có thể tương đương với một đội quân Thủy quân lục chiến Thế chiến II đối mặt với một đội quân kiếm sĩ thời trung cổ.

Các nền dân chủ nên tìm cách hình thành một liên minh toàn cầu tập trung vào việc xây dựng AI theo các giá trị chung của họ, lặp đi lặp lại cố gắng thu hút phần còn lại của thế giới bằng cách làm cho việc trở thành thành viên của liên minh ngày càng hấp dẫn hơn và việc ở bên ngoài ngày càng kém hấp dẫn hơn. Một số nguyên tắc và mục tiêu hoạt động có thể bao gồm:

• Quản lý chuỗi cung ứng AI. Các thành viên của liên minh tin cậy nên tự do chia sẻ chip và thiết bị sản xuất bán dẫn (SME) với nhau, đồng thời làm việc cùng nhau để từ chối chúng đối với các đối thủ.
• Phối hợp để giải quyết rủi ro của AI. Các chính sách để giải quyết rủi ro sinh học, an ninh mạng và tự trị sẽ hiệu quả hơn ( cũng như ít gánh nặng hơn cho ngành công nghiệp) nếu được phối hợp quốc tế.
• Chia sẻ lợi ích của AI. Chính sách thương mại và quy định có thể được sử dụng để tạo điều kiện thuận lợi cho sự lan tỏa lợi ích kinh tế của AI nhanh hơn trong liên minh.
• Phòng thủ chung. Các nước trong liên minh nên làm việc cùng nhau để phòng thủ cho nhau bằng AI và khỏi AI của đối thủ.

Cơ hội đang mở ra

Sự tiến bộ theo cấp số nhân của AI đã tạo ra một sự cấp bách và nhịp độ thay đổi mà quy trình hoạch định chính sách thường không được trang bị để xử lý. Nhưng nó cũng đã tạo ra một cơ hội duy nhất. Sự hội tụ của bằng chứng rõ ràng và hiện hữu về rủi ro của AI, một cái nhìn sớm về tiềm năng tạo ra giá trị kinh tế và gián đoạn kinh tế của AI, và sự phản đối mạnh mẽ của công chúng đối với các cách tiếp cận không được kiểm soát của AI đã tạo ra một tình huống mà các nhà hoạch định chính sách đang cởi mở một cách bất thường với các hành động có tầm nhìn xa trông rộng. Treebeard và khu rừng của hắn đang thức dậy.

Tôi lạc quan về việc tìm ra giải pháp vì nhiều vấn đề này—từ việc giải quyết việc thay thế lao động, đến thử nghiệm trước khi phát hành các mô hình, đến kiểm soát xuất khẩu chip—có sức hấp dẫn theo lý thông thường trên toàn bộ phổ chính trị. Có một thế giới tương lai đầy tham vọng nhưng thực tế, trong đó một liên minh phi đảng phái rộng lớn, được thúc đẩy bởi sự nhận thức trực tiếp về các thách thức do AI đặt ra, dẫn đến việc áp dụng các chính sách điên rồ và có tầm nhìn xa nhanh hơn nhiều so với bình thường.