Cảnh báo từ người trong cuộc về AI gây tranh cãi tại Thung lũng Silicon

Hội nghị công nghệ tại San Francisco

Mỗi tháng 9, giới tinh hoa điều hành của Thung lũng Silicon lại đổ về khách sạn Palace tại San Francisco để tham dự hội nghị do ngân hàng đầu tư Goldman Sachs tổ chức. Năm nay, giữa những câu chuyện về tăng trưởng và lợi nhuận tiềm năng, các "ông lớn" công nghệ bất ngờ phải đối mặt với một chủ đề nhức nhối: sự ra đi đột ngột của Jacob Coxon, nhà nghiên cứu 27 tuổi của Anthropic.

Coxon, người từng làm việc tại OpenAI trước khi đầu quân cho đối thủ lớn nhất của công ty này, tuyên bố rằng những người đang xây dựng trí tuệ nhân tạo tin rằng công nghệ này có thể hủy diệt loài người. Ông gọi đó là hành vi "đánh cược bằng mạng sống của chúng ta" và cảnh báo: "Đây sẽ sớm là những hệ thống siêu phàm có khả năng xâm nhập bất cứ thứ gì".

Làn sóng cảnh báo từ bên trong

Coxon không phải là người đầu tiên trong ngành lên tiếng báo động. Những năm gần đây đã chứng kiến hàng loạt vụ từ chức gây chú ý tại cả Anthropic lẫn OpenAI, với lý do liên quan đến các vấn đề an toàn. Thậm chí, một số nhân viên hiện tại của Anthropic còn đồng tình với quan điểm của Coxon.

"Chúng tôi thực sự tin rằng AI có thể giết chết toàn bộ loài người! Cá nhân tôi cho rằng xác suất này là hơn 10% trong thập kỷ tới," Evan Hubinger, trưởng nhóm tại Anthropic, viết trên X.

Dù Coxon khẳng định rõ ràng rằng những cảnh báo của mình "không phải là tiếp thị", phản ứng từ giới điều hành và nhà đầu tư lại khá dè dặt. Bối cảnh đáng chú ý là cả Anthropic và OpenAI được cho là đang chuẩn bị cho các đợt phát hành cổ phiếu lần đầu (IPO) có thể lập kỷ lục.

Nghi ngờ về động cơ đằng sau

Một số người trong ngành cho rằng những phát ngôn gay gắt về hiểm họa AI có thể được thiết kế để tạo hiệu ứng truyền thông, qua đó nhấn mạnh sức mạnh của sản phẩm. CEO của Anthropic, Dario Amodei, cũng từng bị chỉ trích khi tuyên bố AI có thể xóa sổ một nửa số việc làm văn phòng phổ thông và sẽ "thử thách bản chất loài người".

George Arison, CEO của Grindr

George Arison, CEO của ứng dụng hẹn hò Grindr, nói với BBC rằng những bình luận của Coxon phản ánh một "thế giới quan chống lại nền văn minh" tại Anthropic. Ông gọi chúng là "nguy hiểm" và tiết lộ đã yêu cầu một số kỹ sư của mình ngừng sử dụng công nghệ của Anthropic.

"Có thể họ thực sự tin vào điều đó. Hoặc bạn có thể lập luận rằng họ nói vậy vì đó là cách tuyệt vời để khuếch đại sự ủng hộ của nhà đầu tư, bởi cách duy nhất để biện minh cho mức định giá này là tuyên bố: 'Tôi sẽ chiếm lĩnh mọi ngành công nghiệp và mọi công việc'," Arison phân tích.

Anthropic được định giá 965 tỷ USD trong vòng gọi vốn gần nhất hồi đầu năm nay. Đáng chú ý, trong một bài luận đăng tải cuối tuần qua, chính Amodei lại kêu gọi làm chậm tốc độ phát triển mô hình AI và thúc đẩy quy định toàn cầu, đồng thời khẳng định các rủi ro liên quan đến AI là "nghiêm trọng".

Phản ứng trái chiều từ giới công nghệ

CEO của Nvidia, Jensen Huang, được cho là đã bác bỏ những bình luận của Coxon trước đám đông tại hội nghị. Trước đây, Huang từng gọi quan điểm rằng AI "sẽ là dấu chấm hết cho nhân loại" là "hoàn toàn vô nghĩa". Dù Nvidia có lợi ích kinh doanh rõ ràng trong cơn bùng nổ AI khi sản xuất chip vận hành các hệ thống này, phát ngôn của ông phản ánh làn sóng phản đối đang lớn dần ở Thung lũng Silicon.

Brad Gerstner, người đứng đầu quỹ đầu tư Altimeter Capital, thậm chí cáo buộc Coxon dùng "những lời cường điệu lố bịch". Trong khi đó, Clement Delangue, CEO của nền tảng AI Hugging Face, viết trên X:

"Xin lỗi, nhưng hỏi Jacob về rủi ro tuyệt chủng do AI cũng giống như hỏi anh thợ sửa điều hòa về biến đổi khí hậu. Không phải là chuyện này nhất định vô nghĩa hay sai, nhưng hãy giữ mọi thứ trong bối cảnh hợp lý."

Tuy nhiên, sau bài luận của Amodei, cả Gerstner và Delangue đều tỏ ra thận trọng hơn, gọi đề xuất này là "một bước tiến quan trọng" trong việc cân bằng giữa tốc độ và an toàn.

Nguy cơ siết chặt quy định

Những cảnh báo từ người trong cuộc có thể đẩy nhanh quá trình siết chặt của chính phủ. Hồi tháng 4, Anthropic gây chấn động khi công bố công cụ Mythos của mình có thể vượt trội con người trong một số tác vụ xâm nhập và an ninh mạng, thậm chí có khả năng tự thoát khỏi môi trường sandbox. Mới đây, công ty cho biết đã phát hiện và ngăn chặn các đối tượng đe dọa tìm cách dùng AI của mình để phát triển vũ khí sinh học và gián điệp mạng.

Dự luật "Ban Artificial Superintelligence Act" do Thượng nghị sĩ Bernie Sanders đồng bảo trợ trong tháng này đề xuất tạm dừng phát triển AI tiên tiến.

"Có khả năng cao là con người sẽ mất kiểm soát với AI. Khi các nhà khoa học nói với bạn rằng có khả năng nó gây tác động thảm khốc lên nhân loại, bạn phải là kẻ ngốc mới không nói 'hãy làm chậm lại'," Sanders phát biểu với chương trình Newsnight của BBC.

Jensen Huang, CEO Nvidia

Nếu một đợt siết chặt toàn ngành diễn ra, nó nhiều khả năng sẽ do giới lập pháp dẫn dắt chứ không phải chính quyền Trump, vốn ủng hộ chính sách phát triển AI không giới hạn như một cách để duy trì lợi thế trước Trung Quốc. Khi được hỏi về lo ngại AI dẫn đến tuyệt chủng loài người, Tổng thống Donald Trump nói: "Không, tôi không có lo ngại nào cả. Tôi lo rằng nếu chúng ta không thắng trong cuộc đua AI, chúng ta sẽ rơi vào thế rất xấu."

Bài toán lợi nhuận vẫn chiếm ưu thế

Tại hội nghị ở San Francisco tuần này, dường như khát vọng lợi nhuận vẫn lấn át mọi lo ngại hiện hữu hay nỗi sợ về những hạn chế tiềm tàng từ chính phủ. Một nhà đầu tư chia sẻ rằng ông đang mong chờ hồ sơ S-1 sắp tới của Anthropic, và câu hỏi chính của ông về công ty rất đơn giản: liệu công ty có sinh lời không?

Khi được hỏi vào thứ Năm liệu có sợ thế giới sắp kết thúc không, Sid Sheth, CEO của hãng chip d-Matrix - đơn vị vừa ký thỏa thuận với Nvidia tại hội nghị - không hề úp mở: "Không."

Đối với độc giả Việt Nam, diễn biến này đáng chú ý khi ngày càng nhiều doanh nghiệp và kỹ sư trong nước sử dụng các mô hình Claude của Anthropic hay GPT của OpenAI cho sản phẩm của mình. Việc các "gã khổng lồ" AI đối mặt với áp lực quản lý chặt hơn có thể ảnh hưởng trực tiếp đến chi phí, khả năng truy cập và lộ trình phát triển của các ứng dụng AI tại Việt Nam trong thời gian tới.