Hồ sơ IPO của Anthropic: Lời cảnh báo về nguy cơ diệt vong từ AI

Anthropic vừa chính thức nộp bản cáo bạch cho đợt phát hành cổ phiếu lần đầu ra công chúng (IPO), qua đó công bố nhiều thông tin trước đây vốn được giữ kín. Bên cạnh những con số doanh thu ấn tượng — và cả chi phí còn lớn hơn thế — phần chiếm dung lượng lớn nhất trong hồ sơ lại là mục "các yếu tố rủi ro". Và trong trường hợp này, đối tượng bị đe dọa có thể chính là nhân loại.

Rủi ro tồn vong hiện diện khắp hồ sơ

Dù đã có nhiều bàn luận về mức độ đe dọa tồn vong mà AI gây ra cho con người, cơ chế cụ thể của mối nguy này phần lớn vẫn mơ hồ. 94 trang dành cho các yếu tố rủi ro ít nhất đã cho thấy rõ Anthropic nhìn thấy hiểm họa đến từ đâu, cũng như cách các nhà nghiên cứu của công ty lao thẳng vào đó để giành chiến thắng trong cuộc đua AI.

"Các hệ thống AI đủ tiên tiến, nếu không được phát triển, triển khai và vận hành với những biện pháp bảo vệ, giám sát và an ninh phù hợp, có thể gây ra những rủi ro thảm khốc hoặc đe dọa sự tồn vong của nhân loại."

Trích đoạn trên dẫn lại lo ngại từ cả phía các nhà phê bình, cơ quan quản lý lẫn nội bộ Anthropic. Đây là lần đầu trong ba lần cụm từ "rủi ro tồn vong" xuất hiện trong hồ sơ.

Đáng chú ý, Anthropic gắn kết quả này với một quá trình cụ thể: tự cải thiện đệ quy (recursive self-improvement, viết tắt RSI).

Tự cải thiện đệ quy là gì?

Ý tưởng đằng sau RSI khá đơn giản. Đó là trạng thái con người giao phó việc nghiên cứu và phát triển mô hình AI cho chính các mô hình AI khác. AI vốn đã đóng vai trò lớn trong công việc này, và ít nhất một phòng thí nghiệm đã dùng thứ gần giống RSI để tăng tốc phát triển một mô hình có hiệu năng vượt trội so với quy mô của nó. Tuy nhiên, kịch bản khơi mào những lời bàn tán về ngày tận thế là khi con người hoàn toàn không còn nằm trong vòng kiểm soát.

Theo hồ sơ của Anthropic:

"Rủi ro sẽ gia tăng khi các hệ thống AI tự động hóa đáng kể hoạt động nghiên cứu và phát triển AI, chẳng hạn nếu chúng đẩy tiến độ AI vượt xa khả năng đánh giá và bảo vệ các mô hình mới của chúng ta."

Bản cáo bạch nhiều lần nhấn mạnh rằng RSI có thể tạo ra những mô hình AI phát triển nhanh hơn các biện pháp bảo vệ của công ty, và Anthropic thậm chí có thể không nhận ra mình đã thua trong cuộc đua này cho đến khi quá muộn.

Kịch bản "Skynet" và rủi ro với robot

Hồ sơ cũng đi vào chi tiết về những gì có thể xảy ra sau đó:

"Khi các hệ thống AI trở nên tự chủ hơn và có khả năng thực hiện những hành động hệ trọng với ít sự giám sát của con người hơn, sẽ có rủi ro rằng các hệ thống ấy — do lệch hướng với ý định của con người, do lỗi trong việc xác định mục tiêu, hoặc do các hành vi tự bảo tồn — có thể tự thực hiện những hành động gây hại ở quy mô lớn mà không cần con người can thiệp."

Đây đúng là kịch bản kiểu Skynet trong loạt phim Terminator.

Nói đến robot, Anthropic cũng nêu lo ngại riêng:

"Khi các mô hình của chúng tôi điều khiển thiết bị vật lý, sai sót, hành vi lệch hướng, thao túng đối kháng hoặc lạm dụng có thể dẫn tới thương tích cho con người, thiệt hại tài sản, hư hỏng thiết bị đắt tiền hoặc vật liệu thí nghiệm, hay việc phát tán các chất nguy hiểm — và những hậu quả này có thể xảy ra tức thời và không thể đảo ngược."

Nghịch lý: mối nguy và lợi thế cạnh tranh

Có thể nhiều người sẽ nghĩ rằng với mức độ nghiêm trọng như vậy, cần phải cân nhắc kỹ xem có nên theo đuổi RSI hay không, chứ chưa nói đến việc áp dụng rộng rãi. Nhưng trong một ngành cạnh tranh khốc liệt như AI tiên phong, điều này đã trở thành chuyện đã rồi.

Trong phần nói về "các lợi thế cốt lõi" của công ty, Anthropic mô tả chính quá trình này như sau:

"Chúng tôi gọi cơ chế đệ quy này là 'khép kín vòng lặp', và chúng tôi tin rằng đây là một trong những lợi thế cấu trúc quan trọng nhất trong lĩnh vực AI tiên phong."

Công ty cũng cảnh báo việc không "khép kín vòng lặp" có thể khiến họ "tụt lại ngày càng xa khi các đối thủ liên tục dùng AI để nâng cao hơn nữa năng lực phát triển của chính họ". Nói cách khác, chính những hệ thống đang gây lo ngại về tồn vong lại là thứ Anthropic coi là then chốt cho thành công của mình.

Bài toán nan giải của toàn ngành

Mọi công ty AI đều đang phải xử lý cùng một mâu thuẫn này. Khi cựu nhà nghiên cứu Anthropic là Jacob Coxon gây chú ý với việc công khai từ chức, anh đặt việc kiềm chế RSI lên đầu danh sách mong muốn cải cách của ngành. Nhân viên tại Google DeepMind và nhiều nơi khác cũng có những tiết lộ tương tự.

Tại Quốc hội Mỹ, đã có nhiều dự luật được đề xuất nhằm cấm RSI, trong đó có một dự luật do Thượng nghị sĩ Bernie Sanders đồng bảo trợ. Song, đây đều là các công ty vì lợi nhuận, và số tiền đặt cược lên tới hàng nghìn tỷ đô la.

Đây là một thế cân bằng khó xử lý. Tự cải thiện đệ quy có thể trở thành một đoàn tàu mất phanh hủy diệt nhân loại. Nhưng cho đến lúc đó, hãy cứ nhìn xem nó có thể chạy nhanh đến mức nào.

Với độc giả Việt Nam theo dõi làn sóng AI, câu chuyện của Anthropic là lời nhắc rằng cuộc đua mô hình nền tảng không chỉ xoay quanh hiệu năng và chi phí, mà còn liên quan đến những quyết định quản trị rủi ro có tầm ảnh hưởng toàn cầu — điều các doanh nghiệp và cơ quan quản lý trong nước cũng cần theo dõi khi xây dựng khung pháp lý cho AI.