Anthropic công bố rủi ro IPO: Khi AI có thể đe dọa chính nhân loại

Mỗi khi một doanh nghiệp chuẩn bị chào bán cổ phiếu ra công chúng tại Phố Wall, họ buộc phải công khai những rủi ro tiềm ẩn dành cho nhà đầu tư. Với Anthropic, "gã khổng lồ" trí tuệ nhân tạo có trụ sở tại San Francisco, danh sách đó bao gồm cả khả năng sản phẩm của chính họ đe dọa đến sự tồn vong của nhân loại.

Trong hồ sơ nộp lên Ủy ban Chứng khoán Mỹ (SEC), Anthropic đã dành hẳn 93 trong tổng số 335 trang cho phần "các yếu tố rủi ro" — những điều có thể ảnh hưởng tiêu cực tới khoản đầu tư của cổ đông tương lai. Để so sánh, đối thủ SpaceX chỉ dành 38 trang trên hơn 250 trang cho nội dung tương tự.

Claude của Anthropic

Bán cổ phiếu như một bước kiểm soát rủi ro

Điều đáng chú ý là Anthropic tự giới thiệu thương vụ IPO của mình như một cách để giảm thiểu những rủi ro mà công ty tin rằng AI gây ra.

"Xây dựng AI chính là khai thác năng lực nhận thức, và bất cứ thứ gì mạnh mẽ đến vậy cũng có thể bị dùng cho cả điều xấu lẫn điều tốt. Anthropic là một tổ chức được dẫn dắt bởi giá trị cốt lõi, được thành lập phần lớn để giúp thế giới hiện thực hóa lợi ích của AI và tránh những nguy hiểm của nó."

Đó là lời của các nhà sáng lập công ty trong lá thư gửi cổ đông tiềm năng trong hồ sơ IPO. Tuy nhiên, danh sách rủi ro vẫn rất dài, từ những vấn đề "thường nhật" như nguy cơ mất nhân sự chủ chốt hay vướng rào cản pháp lý, cho đến khả năng bị lợi dụng trong các cuộc tấn công mạng và việc phát tán thông tin sai lệch nguy hiểm.

Tốc độ phát triển công nghệ vượt tầm kiểm soát

Anthropic thừa nhận các mô hình của họ có thể phát triển nhanh đến mức công ty không kịp triển khai các biện pháp an toàn đầy đủ, "làm tăng khả năng xảy ra sự cố an toàn, can thiệp pháp lý hoặc tổn hại danh tiếng, và có thể ảnh hưởng tiêu cực đến hoạt động kinh doanh".

Hồi tháng 9, CEO Dario Amodei từng cảnh báo rằng trong vòng 6 đến 12 tháng tới, AI có thể đủ sức dẫn dắt một "bầy" tác nhân tự động (agent) và chiếm quyền kiểm soát toàn bộ internet. Cảnh báo này — cùng động thái bán cổ phiếu hiện tại — xuất hiện trong bối cảnh lo ngại về AI đang gia tăng cả bên trong lẫn ngoài ngành công nghiệp: những hệ thống ngày càng mạnh có thể giải quyết bài toán vượt năng lực con người, nhưng cũng có thể tự hành động để thực thi những nhiệm vụ gây hại khác.

Theo hồ sơ của SEC, khi các hệ thống AI "trở nên tự chủ hơn và có khả năng thực hiện những hành động có hệ quả với ít sự giám sát của con người", sẽ có rủi ro rằng chúng "có thể thực hiện các hành vi gây hại một cách độc lập, ở quy mô lớn mà không cần con người can thiệp".

"Ngay cả khi mô hình của chúng tôi không gây ra hậu quả như vậy, một sự cố an toàn nghiêm trọng liên quan đến bất kỳ AI tiên tiến nào cũng có thể gây tổn hại danh tiếng toàn ngành AI, phản ứng dữ dội từ công chúng và các phản ứng pháp lý quy mô lớn, ảnh hưởng xấu đến hoạt động kinh doanh của chúng tôi."

Một điểm đáng lưu ý: hiện tại chính các mô hình AI đang đóng góp vào hoạt động nghiên cứu và phát triển của Anthropic. Hồ sơ cho biết điều này khiến AI có thể tiến xa "vượt quá khả năng đánh giá và bảo vệ các mô hình mới" của công ty.

Kẻ xấu có thể lợi dụng công nghệ để gây thảm họa

Hồ sơ cũng đề cập lo ngại rằng các hệ thống AI tiên tiến, nếu không được phát triển và vận hành với đủ biện pháp bảo vệ và giám sát, "sẽ tạo ra rủi ro thảm họa hoặc rủi ro tồn vong đối với nhân loại, đặc biệt nếu những hệ thống đó bị lạm dụng, sao chép, vũ khí hóa hoặc bị cho phép hoạt động với mức độ tự chủ cao".

Công ty mô tả các kịch bản trong đó kẻ xấu dùng mô hình AI để chế tạo vũ khí hóa học, hoặc các nhà lãnh đạo độc tài sử dụng công nghệ này để đàn áp người dân. Tháng 9 vừa qua, Anthropic cho biết đã chặn nhiều nỗ lực lợi dụng mô hình của mình cho các hoạt động độc hại như tấn công mạng, giám sát và nghiên cứu có thể dẫn tới phát triển vũ khí sinh học.

Giới hạn về năng lực tính toán

Compute — năng lực hay tài nguyên tính toán cần để xây dựng, kiểm thử và cải thiện mô hình AI — rất đắt đỏ và khan hiếm. Anthropic lưu ý rằng nếu không đảm bảo đủ nguồn lực tính toán, hoặc "không phân bổ compute hiệu quả cho các khối lượng công việc, chúng tôi có thể không huấn luyện được những mô hình đủ sức cạnh tranh hoặc đáp ứng đủ nhu cầu khách hàng".

Công ty cũng nhắc đến sự phản đối của cộng đồng đối với các trung tâm dữ liệu như một rủi ro kinh doanh. Hồ sơ cho biết việc phát triển trung tâm dữ liệu "đã gây tranh cãi công khai và bị giám sát pháp lý về tác động môi trường, sử dụng đất và nước, cũng như phân bổ nguồn điện hạn chế". Nếu cơ quan quản lý áp thêm yêu cầu hoặc chi phí, khả năng kinh doanh của Anthropic có thể bị ảnh hưởng.

Bên cạnh đó, doanh thu của công ty phụ thuộc vào một số ít khách hàng và kênh phân phối lớn, bao gồm SpaceX và Microsoft. Chỉ cần một khách hàng lớn quyết định thu hẹp quy mô hoặc chấm dứt hợp tác, triển vọng và tình hình tài chính của Anthropic có thể bị tổn hại.

SecurityWeek

Rủi ro lớn, tiềm năng lớn

Theo một nghĩa nào đó, chính rủi ro khổng lồ của AI kết hợp với tiềm năng khổng lồ của nó lại là "điểm bán hàng" chính của Anthropic. Công ty đã cố gắng định vị mình là doanh nghiệp AI có trách nhiệm và thu hút khách hàng doanh nghiệp bằng cách nhấn mạnh vào yếu tố an toàn.

"Chúng tôi tin rằng các công ty AI tiên tiến phải đầu tư vào an toàn và căn chỉnh (alignment) để đảm bảo sự lan tỏa có trách nhiệm của công nghệ này."

Brian Mulberry, chiến lược gia thị trường trưởng tại Zacks Investment Research, nhận định các thương vụ IPO phải trình bày "thật rõ ràng" những rủi ro mà nhà đầu tư đối mặt khi bỏ tiền vào một cổ phiếu mới niêm yết.

"Đó là một trong những điểm tuyệt vời của thị trường vốn tại Mỹ: mức độ minh bạch mà bạn phải cam kết khi trở thành công ty đại chúng trên sàn giao dịch Mỹ, buộc bạn phải phác họa những rủi ro đó một cách rõ ràng để mọi người hiểu nếu họ muốn tham gia bằng đồng tiền mồ hôi nước mắt của mình."

Góc nhìn cho nhà đầu tư và người dùng Việt Nam

Với thị trường Việt Nam, câu chuyện của Anthropic mang lại vài bài học đáng chú ý. Thứ nhất, các doanh nghiệp công nghệ trong nước đang phát triển sản phẩm AI cũng cần xây dựng quy trình đánh giá rủi ro an toàn ngay từ đầu, thay vì chạy theo tính năng. Thứ hai, việc phụ thuộc vào một vài khách hàng hoặc nhà cung cấp hạ tầng lớn là rủi ro mà nhiều startup Việt Nam dễ mắc phải khi mở rộng.

Cuối cùng, động thái IPO của Anthropic cho thấy sự minh bạch về rủi ro không làm giảm giá trị doanh nghiệp, mà ngược lại còn củng cố niềm tin của nhà đầu tư — một tư duy mà các công ty công nghệ hướng tới niêm yết tại Việt Nam có thể tham khảo.