Cựu nhân viên OpenAI cảnh báo rủi ro an toàn của xAI có thể ảnh hưởng đến đợt IPO của SpaceX

Hai cựu nhân viên của OpenAI cùng một nhóm các tổ chức phi lợi nhuận chuyên về an toàn AI vừa đưa ra cảnh báo cho rằng phòng thí nghiệm AI xAI của Elon Musk có thể trở thành một rủi ro pháp lý lớn đối với các nhà đầu tư tiềm năng của SpaceX. Công ty tên lửa này đang chuẩn bị nộp đơn đăng ký IPO (phát hành cổ phiếu lần đầu ra công chúng) dự kiến sẽ là đợt IPO lớn nhất trong lịch sử Phố Wall.

Trong một bức thư gửi đến các nhà đầu tư được công bố vào thứ Ba, các cựu nhân viên này đã làm nổi bật những gì họ mô tả là "rủi ro chưa được định giá" liên quan đến xAI. Điều này có thể làm phức tạp kế hoạch báo cáo của SpaceX nhằm huy động tới 75 tỷ USD trong đợt IPO. Định giá tư nhân của công ty tên lửa này đã tăng vọt lên hơn 1 nghìn tỷ USD sau khi họ mua lại xAI vào năm ngoái. Musk từng tuyên bố rằng công ty tên lửa của ông có thể phóng các trung tâm dữ liệu vào không gian cho phòng thí nghiệm AI của mình, nhưng các tác giả của bức thư lập luận rằng hồ sơ kém cỏi của xAI về các vấn đề an toàn có thể làm phức tạp cách các nhà đầu tư nhìn nhận về công ty hợp nhất khi họ chuẩn bị nộp hồ sơ đăng ký IPO.

Một trong những người ký tên và đồng tác giả của bức thư là một tổ chức phi lợi nhuận mới có tên Guidelight AI Standards, được đồng sáng lập bởi cựu nhà nghiên cứu an toàn của OpenAI, Steven Adler, và cựu cố vấn chính sách của OpenAI, Page Hedley. Nhóm này, được hỗ trợ bởi các nhà tài trợ tư nhân, nhằm mục đích cải thiện các thực hành an toàn của các công ty AI tiên phong. Các tổ chức phi lợi nhuận khác về an toàn AI cũng ký tên, bao gồm Legal Advocates for Safe Science and Technology, Encode AI và The Midas Project.

Ông Hedley cho biết trong một cuộc phỏng vấn với WIRED rằng ông tin rằng xAI có các thực hành an toàn kém nhất "gần như trên mọi mặt trận" so với các nhà phát triển AI tiên phong khác, bao gồm OpenAI, Google DeepMind và Anthropic. Do đó, ông lập luận rằng SpaceX có thể phải đối mặt với rủi ro quy định và kiện tụng cao hơn so với các phòng thí nghiệm AI khác.

Các tác giả của bức thư lập luận rằng SpaceX nên thực hiện một số công bố cho các nhà đầu tư, bao gồm việc liệu xAI có định tiếp tục phát triển các mô hình AI tiên phong hay không. SpaceX gần đây đã đạt được thỏa thuận để bán một phần lớn công suất GPU cho Anthropic, và bức thư khẳng định rằng thỏa thuận này "làm rõ ràng việc liệu xAI có còn là một đối thủ cạnh tranh AI tiên phong bên trong một công ty holding lớn hơn hay không". Nếu xAI tiếp tục phát triển các mô hình AI tiên phong, các tác giả cho rằng họ nên được yêu cầu công bố một kế hoạch an toàn và quản trị công khai.

SpaceX và xAI đã không phản hồi ngay lập tức yêu cầu bình luận của WIRED.

Bức thư cũng nêu ra các ví dụ về việc xAI không theo kịp các thực hành an toàn tiêu chuẩn của ngành, chẳng hạn như việc công bố các khuôn khổ chi tiết để giảm thiểu rủi ro xung quanh việc các mô hình AI của họ bị sử dụng trong các cuộc tấn công mạng. Các tác giả cũng phác thảo các sự cố an toàn cụ thể tại xAI mà theo họ xứng đáng được sự giám sát thêm. Trong số những đáng chú ý nhất có trường hợp chatbot AI hàng đầu của xAI, Grok, tự nhiên đưa ra chủ đề "diệt chủng người da trắng" trong các câu trả lời của nó. Trong một trường hợp khác, xAI đã cho phép Grok tạo ra hàng nghìn hình ảnh khiêu dâm của phụ nữ và trẻ em, những hình ảnh này lan truyền rộng rãi trên nền tảng mạng xã hội X của Musk. Trường hợp sau đây đã thúc đẩy ít nhất 37 tổng chưởng lý của các tiểu bang Mỹ gửi một bức thư yêu cầu phòng thí nghiệm AI của Musk thực hiện các bước để bảo vệ phụ nữ và trẻ em trên nền tảng của mình.

Ông Hedley nói rằng số lượng sự cố an toàn mà xAI đã trải qua và sự chú ý của cơ quan quản lý mà họ nhận được là "hoàn toàn không tương xứng với thị phần của họ". Khi các nhà lập pháp ngày càng lo ngại hơn về khả năng an ninh mạng của các mô hình AI tiên tiến như Claude Mythos của Anthropic, các quy định an ninh mới có thể đang ở phía trước. Chính quyền của ông Trump được cho là đang cân nhắc một lệnh hành pháp sẽ cho phép các cơ quan tình báo Mỹ có quyền giám sát nhiều hơn đối với các mô hình AI.

"Cần một khoản đầu tư nghiêm túc để kiểm soát các rủi ro [an toàn AI] này, và có vẻ như xAI đã historically đầu tư kém ở khía cạnh này," ông Adler nói. Bức thư trích dẫn báo cáo từ The Washington Post cho biết xAI chỉ có "hai hoặc ba" người làm việc về an toàn tính đến tháng Giêng. "Một câu hỏi mà các nhà đầu tư nên tự hỏi là nếu xAI giữ vững vị thế tiên phong, thì việc quản lý các rủi ro này một cách có trách nhiệm sẽ tốn kém bao nhiêu? Nếu họ không làm vậy, hậu quả sẽ là gì?"

Bức thư thừa nhận rằng phòng thí nghiệm AI của ông Musk đã thực hiện một số cải tiến liên quan đến an toàn gần đây, chẳng hạn như mở rộng thỏa thuận hiện có với Nhà Trắng để cho phép kiểm tra các mô hình AI của họ trước khi chúng được triển khai công khai. Tuy nhiên, các tác giả cho rằng cần có nhiều công bố hơn để các nhà đầu tư có thể đánh giá đầy đủ các rủi ro an toàn AI liên quan đến SpaceX.

"Hồ sơ lịch sử của xAI đã đủ nghiêm trọng để xứng đáng được sự giám sát; nó chưa, tự thân nó, đóng cánh cửa cho một tương lai tốt đẹp hơn của công ty," bức thư viết.

Nhóm giám sát mới

Ông Adler và ông Hedley cho biết Guidelight AI Standards nhằm mục đích tạo ra các điểm chuẩn mới thống nhất mà các phòng thí nghiệm AI có thể tuân theo một cách hợp lý. Họ cũng muốn cung cấp các đánh giá rõ ràng về các thực hành an toàn AI mà những người ngoài thế giới AI như các nhà hoạch định chính sách, nhà đầu tư và nhà báo có thể dễ dàng hiểu được. Bức thư về xAI là hành động công khai đầu tiên của họ theo hướng này.

Các đồng sáng lập cho biết kinh nghiệm làm việc tại OpenAI của họ đã truyền cảm hứng để họ thành lập tổ chức phi lợi nhuận này, mà họ hy vọng có thể giúp giữ cho các phòng thí nghiệm AI chịu trách nhiệm như một bên thứ ba độc lập.

"Trong khi tôi ở tại OpenAI, một trong những điều cập nhật đối với tôi là những người ở bên trong cũng lo lắng về điều này. Họ không có tất cả câu trả lời," ông Hedley, người rời công ty tạo ra ChatGPT vào năm 2019, nói.

Ông Adler, người đã từ chức tại OpenAI vào năm 2024, cho rằng có áp lực đáng kể bên trong các phòng thí nghiệm AI thương mại để xử lý các vấn đề an toàn một cách nhanh chóng, điều mà ông nói thường là phù hợp để đưa công nghệ ra thế giới. "Đồng thời, có một số lớp vấn đề — nếu bạn lắng nghe nhân viên an toàn bên trong các công ty — mà bạn không thể xử lý theo cơ chế vừa kịp thời vừa vừa đủ," ông nói.