Big Tech muốn 'hãm phanh' AI: Thỏa thuận an toàn hay liên minh độc quyền?

Khi các ông trùm AI hàng đầu thế giới — CEO OpenAI Sam Altman, CEO Anthropic Dario Amodei, đồng sáng lập Google DeepMind Demis Hassabis và tỷ phú Elon Musk — cùng đồng thuận làm chậm tốc độ phát triển trí tuệ nhân tạo, giới hoài nghi ngay lập tức nghi ngờ động cơ thực sự. Họ tuyên bố mục tiêu là "điều tiết tốc độ tiên phong", nhưng liệu đây là cam kết vì an toàn nhân loại hay một liên minh độc quyền trá hình?

Thỏa thuận gây tranh cãi

Giới lãnh đạo AI cho biết mục tiêu của họ là "điều tiết tốc độ tiên phong" (pace the frontier), ủng hộ đề xuất đưa chuyên gia kiểm toán độc lập vào các phòng thí nghiệm, quản lý các lab nội địa và đạt được một thỏa thuận giảm tốc toàn cầu.

Các ông trùm AI và thỏa thuận gây tranh cãi

Tuy nhiên, những người chỉ trích cho rằng họ đơn thuần muốn ngăn chặn các đối thủ tiềm năng, kìm hãm phong trào mã nguồn mở và né tránh các biện pháp bảo vệ pháp lý thực sự. Một số người còn gọi đây là một "liên minh độc quyền" (cartel) đúng nghĩa.

Sự thật có phần phức tạp hơn. Đề xuất ba bước do Amodei trình bày trong một bài viết là những thay đổi mà giới vận động an toàn AI đã kêu gọi từ lâu. Dù vậy, các chuyên gia lo ngại rằng chính những nhà lãnh đạo AI không phải là người phù hợp nhất để dẫn dắt vấn đề này.

Lo ngại về làn sóng AI đang leo thang

Nỗi lo về sự tiến bộ của AI đã gia tăng trong nhiều tháng, phần lớn bắt nguồn từ việc phát hiện các nhóm tác nhân tự động (agent) đứng sau những vụ tấn công mạng trái phép ngay dưới mũi các phòng thí nghiệm hàng đầu là Anthropic và OpenAI.

Nỗi lo về AI và siêu trí tuệ

Sự việc càng nóng hơn khi nhà nghiên cứu Jacob Coxon của Anthropic từ chức và đăng một lá thư công khai giải thích quyết định của mình:

"Những người xây dựng AI thực sự tin rằng nó có thể giết chết tất cả chúng ta vào cuối thập kỷ này."

Ông cho rằng cả OpenAI lẫn Anthropic đều không "hành động có trách nhiệm" mà thay vào đó "đang lao thẳng tới siêu trí tuệ tự cải thiện và đánh cược bằng mạng sống của chúng ta" . Lá thư này đã được xem hơn 170 triệu lần chỉ riêng trên X.

Tuy nhiên, với một bộ phận không nhỏ các nhà nghiên cứu an toàn AI, đây đơn thuần chỉ là việc thu hút thêm sự chú ý đến một vấn đề vốn đã được bàn luận rộng rãi.

Daniel Kokotajlo, cựu nhân viên OpenAI nay dẫn dắt AI Futures Project, nhận định: "Nhiều người nghĩ đây là ý tưởng của Dario hay đến từ các CEO, nhưng điều đó sai. Những người bên ngoài công ty đã kêu gọi điều này suốt nhiều năm."

Kịch bản 'rửa sạch an toàn'

Phần lớn các nguồn tin đều đánh giá thỏa thuận bằng lời nói của giới lãnh đạo AI là một bước đi đúng hướng. Nhưng tất cả đều đồng ý rằng còn rất nhiều việc phải làm để biến cam kết này thành hiện thực, đặc biệt là việc biến nó thành một thỏa thuận có tính ràng buộc.

Nhiều người vẫn đặt câu hỏi về động cơ của các nhà lãnh đạo. Ngành công nghệ đã dành nhiều năm để đi trước các quy định bằng cách vận động hành lang cho những luật lệ có lợi cho mình, hoặc hứa hẹn tự điều tiết. Các nền tảng lớn từng đề xuất những chính sách có thể gây bất lợi hơn cho đối thủ nhỏ, dùng ngôn từ vị tha để biện minh cho mục tiêu vụ lợi.

Kokotajlo cảnh báo: "Có lo ngại nghiêm túc rằng họ sẽ không thực sự chậm lại. Họ chỉ đưa vào vài chuyên gia kiểm toán bên ngoài, làm một đống giấy tờ an toàn — một số thực sự tốt — nhưng cuối cùng, nó sẽ không làm họ chậm lại bao nhiêu."

Nick Reese, cựu giám đốc chính sách công nghệ mới nổi của Bộ An ninh Nội địa Mỹ, so sánh chiêu này với chiến lược của các nền tảng mạng xã hội cách đây một thập kỷ, khi các công ty bắt đầu kêu gọi hành động quản lý để đi trước những luật bất lợi sắp ban hành.

Khi Trung Quốc trở thành 'bóng ma'

Thách thức lớn nhất đối với việc làm chậm AI có thể tóm gọn trong một từ: Trung Quốc.

Giới lãnh đạo AI và chính trị gia đều lâu nay lập luận rằng tiến độ AI của Mỹ không thể chậm lại vì lý do Trung Quốc — dù công nghệ có thể trở nên nguy hiểm đến đâu, họ vẫn muốn nó nằm trong tay Mỹ hơn là Trung Quốc, và Trung Quốc sẽ không tự hãm phanh.

Tuy nhiên, Buck Shlegeris, CEO Redwood Research, cho rằng việc theo đuổi AI một cách "liều lĩnh" không mang lại lợi ích tốt nhất cho cả chính phủ Mỹ lẫn Trung Quốc. Ông nói thêm rằng hợp tác quốc tế ở mức độ này "sẽ không phải là chưa từng có tiền lệ."

Về phía Trung Quốc, người phát ngôn Bộ Ngoại giao nước này đã phản bác lời kêu gọi làm chậm, gọi đó là "gieo rắc nỗi sợ hãi" .

Điểm mấu chốt: Tự cải thiện đệ quy (RSI)

Vấn đề nền tảng đằng sau mọi lo ngại gần đây là một cột mốc được gọi là tự cải thiện đệ quy (Recursive Self-Improvement — RSI) . Đây là thời điểm mà các mô hình AI có thể tự huấn luyện, tự nâng cấp và tạo ra phiên bản mới của chính mình — hoàn toàn không cần con người tham gia.

Anthropic cho rằng cột mốc này có thể đến sớm nhất vào đầu năm 2027, và nhà khoa học trưởng của OpenAI viết rằng công ty đang dồn nhiều nguồn lực để đạt được mục tiêu này. Các kỹ sư và nhà nghiên cứu ngày càng lo ngại rằng RSI sẽ kéo theo hàng loạt vấn đề AI mới và nghiêm trọng hơn, bao gồm các sự cố an ninh mạng gây ảnh hưởng sâu rộng đến toàn xã hội.

Amodei cho biết RSI là nhân tố chính khiến ông kêu gọi làm chậm:

"Kể từ khoảng mùa hè này, AI đã tiến bộ nhanh một cách chóng mặt... Nếu không được kiểm soát, nó có thể vượt xa khả năng hiểu và kiểm soát các hệ thống của chúng ta, nên phải được theo đuổi hết sức cẩn trọng, nếu có thể."

Ông đề xuất áp đặt "một dạng giới hạn tốc độ" cho tỷ lệ RSI, so sánh với các giới hạn số lượng tên lửa.

Nhiều nhà nghiên cứu tại các phòng thí nghiệm AI hàng đầu đã chia sẻ mối lo này. Samuel Marks, nhà nghiên cứu tại Anthropic, viết trên X: "Càng ở vị trí cao trong công ty, người ta càng lo ngại."

Cần những 'nhà vô địch mới'

Không có quy định quản lý AI nào từ chính phủ sắp được ban hành, lựa chọn tốt nhất có thể là thúc đẩy các công ty đi đến một thỏa thuận ngay lập tức, có thể đo lường và có tính ràng buộc.

Dự án AI Futures của Kokotajlo đề xuất các phòng thí nghiệm AI cho phép kiểm toán viên truy cập ngân sách tính toán (compute budget) của mình — và cam kết giảm đáng kể ngân sách này cho nghiên cứu, từ đó làm chậm tiến độ AI và cho các phòng thí nghiệm khác đuổi kịp.

Tuy nhiên, Reese của NYU nhấn mạnh sự cần thiết của những người dẫn dắt mới:

"Ngành công nghiệp nói chung cần những nhà vô địch mới. Chúng ta từng coi những người như Dario Amodei, Sam Altman và Elon Musk là những người gần gũi nhất với vấn đề và làm việc với nó mỗi ngày, là những người hiểu rõ nhất. Nhưng sự thật là chưa bao giờ có một tầm nhìn thực tế về đích đến mà chúng ta đang xây dựng."

Ông kết luận: "Thật khó để chạy đua khi chúng ta thậm chí không hiểu con đường, không hiểu vạch đích là gì — hoặc liệu có vạch đích hay không."