Đằng sau những cảnh báo diệt vong mới nhất của ngành công nghiệp AI

Ngành công nghiệp trí tuệ nhân tạo (AI) đang trải qua cuộc tranh luận ồn ào nhất từ trước đến nay về việc liệu công nghệ này có thực sự đe dọa sự tồn vong của nhân loại hay không. Những tuyên bố gây sốc gần đây từ các nhân vật chủ chốt trong ngành đã làm dấy lên làn sóng hoài nghi về động cơ thực sự đằng sau những cảnh báo này.

Làn sóng cảnh báo mới bắt nguồn từ đâu?

Cuộc thảo luận hiện tại bùng nổ sau khi nhà nghiên cứu AI Jacob Coxon tuyên bố từ chức khỏi Anthropic, với lý do lo ngại rằng các công ty AI hàng đầu đang "đánh cược bằng mạng sống của chúng ta". Ngay sau đó, trưởng nhóm alignment của Anthropic đã chia sẻ lại bài đăng này trên X kèm dòng bình luận gây chú ý: "Chúng tôi thực sự tin rằng AI có thể giết chết toàn bộ loài người!", đồng thời cá nhân ông cho rằng xác suất này là "hơn 10% trong thập kỷ tới".

Trên tập mới nhất của podcast Equity thuộc TechCrunch, các biên tập viên Kirsten Korosec, Sean O'Kane và Anthony Ha đã mổ xẻ những cảnh báo ngày tận thế này. Trong khi Anthony bày tỏ sự hoài nghi với nhiều câu chuyện "diệt vong" (doomer narrative), Kirsten đặt câu hỏi liệu đây có phải "một cách khoe khoang kỳ lạ để chứng minh mô hình AI của công ty họ tiên tiến đến mức nào" — đặc biệt trong bối cảnh các công ty này đang chuẩn bị lên sàn chứng khoán.

Xác suất "hơn 10%" — con số không có cơ sở

Anthony Ha thẳng thắn phản đối cách dùng dấu chấm than của bài đăng, nhưng vấn đề lớn hơn nằm ở chữ "chúng tôi". Theo ông, không thể nói về cộng đồng AI hay cộng đồng nghiên cứu AI như một khối thống nhất.

"Con số hơn 10% — đó chỉ là con số bịa ra, chẳng có ý nghĩa gì cả. Ngành công nghệ có thói quen tung ra những tỷ lệ phần trăm không dựa trên bất kỳ cơ sở tính toán nào."

Điểm đáng ghi nhận ở Coxon, theo Anthony, là anh ta thực sự đặt sự nghiệp của mình vào lời nói. Khác với những CEO như Sam Altman hay Dario Amodei — những người vừa cảnh báo về nguy cơ diệt vong vừa tiếp tục phát triển công nghệ — Coxon đã chọn rời bỏ công việc.

Cảnh báo diệt vong có phải là chiêu đánh bóng?

Kirsten Korosec đặt ra một giả thuyết gây tranh cãi: liệu mỗi bài blog về sự cố AI agent vượt kiểm soát, hay mỗi tuyên bố về nguy cơ hủy diệt nhân loại, có phải là cách khoe khéo năng lực mô hình AI của công ty?

Lập luận khá logic: nếu các mô hình AI không đủ mạnh, không đủ khả năng và không thể vượt qua rào cản, thì chẳng ai phải lo lắng về chúng cả. Đây là cách nói gián tiếp rằng: "Mô hình của chúng tôi mạnh đến mức có thể gây nguy hiểm."

Anthony đồng ý một phần, cho rằng không hẳn là chiêu marketing có chủ đích, nhưng lợi ích kinh doanh và mối lo thực sự trùng khớp một cách đáng ngờ. Con người luôn có xu hướng muốn tin rằng thứ mình đang làm là quan trọng và nguy hiểm nhất thế giới.

Vấn đề kiểm soát và hồ sơ IPO của Anthropic

Sean O'Kane chỉ ra điểm khác biệt trong các sự cố gần đây: chúng cho thấy các công ty dường như không thực sự kiểm soát được công nghệ của mình. Các báo cáo về những AI agent nội bộ truy cập wiki trên web và để lại tin nhắn cho nhau cho thấy OpenAI đang xử lý tình huống thiếu chuyên nghiệp.

Điều đáng chú ý là Anthropic được cho là sắp nộp hồ sơ S-1 cho IPO. Việc công khai tuyên bố "có hơn 10% khả năng chúng tôi phát triển thứ hủy diệt nhân loại" trước thềm IPO đặt ra câu hỏi pháp lý thú vị:

"Liệu có những luật sư tập sự nào đang phải viết lại toàn bộ phần đó trong hồ sơ S-1 để nói rằng: 'Lập trường chính thức của Anthropic là có hơn 10% khả năng chúng tôi phát triển thứ có thể xóa sổ loài người và gây hại nghiêm trọng cho hoạt động kinh doanh'?"

Trong môi trường đầu tư truyền thống, những tuyên bố như vậy sẽ làm giảm định giá doanh nghiệp. Nhưng theo Kirsten, "chúng ta không sống trong thời đại bình thường". Sức mạnh, năng lực — thậm chí cả yếu tố nguy hiểm — có thể được thị trường diễn giải thành định giá cao.

Điều gì đang được làm để kiểm soát AI?

Connor Leahy, giám đốc điều hành tại Mỹ của tổ chức phi lợi nhuận ControlAI, đã xuất hiện trên chương trình để bàn về các biện pháp kiểm soát. Tuy nhiên, Anthony thừa nhận bản thân chưa có câu trả lời thỏa đáng.

Ông cho rằng một phần lý do khiến mình hoài nghi câu chuyện diệt vong là vì nó đạt đến mức cuồng loạn — "ôi, thứ này có thể hủy diệt nhân loại trong 10 năm tới" — và trở thành một sự xao lãng khỏi những tác hại trước mắt hơn của AI:

• Tác động đến lao động và việc làm
• Tác động môi trường và khí hậu
• Vấn đề đạo đức trong triển khai AI

"Lý tưởng nhất, chúng ta nên thảo luận được tất cả những vấn đề này, và có các biện pháp bảo vệ về quy định cũng như các biện pháp khác. Nhưng một khi bạn bắt đầu dùng những cụm từ như AGI và siêu trí tuệ, nó hút hết không khí trong phòng theo cách không mấy hữu ích."

Góc nhìn cho độc giả Việt Nam

Câu chuyện này đặc biệt đáng quan tâm với cộng đồng công nghệ Việt Nam, khi các doanh nghiệp và nhà phát triển trong nước ngày càng ứng dụng AI vào sản phẩm. Việc phân biệt giữa mối lo an toàn thực sự và chiến lược truyền thông là bài học quan trọng — đặc biệt khi các startup AI Việt Nam cũng đang trong giai đoạn gọi vốn và cần xây dựng câu chuyện thuyết phục với nhà đầu tư.

Bài học rút ra: hãy tỉnh táo trước những con số xác suất không có cơ sở, đồng thời không nên bỏ qua những tác động thực tế, gần gũi hơn của AI đối với thị trường lao động và xã hội.