Nỗi sợ lây lan: Khi chuyên gia công nghệ gieo rắc nỗi kinh hoàng vô trách nhiệm về AI

Trong một bài viết đầy suy ngẫm, kỹ sư hệ thống kỳ cựu Bryan Cantrill kể lại một sự cố đáng xấu hổ thời sinh viên để đưa ra lời cảnh tỉnh về cách giới công nghệ đang gieo rắc nỗi sợ hãi vô căn cứ xung quanh AI. Ông đặc biệt phản đối tuyên bố rằng AI có hơn 10% khả năng "tiêu diệt toàn bộ loài người" trong thập kỷ tới — một con số mà ông cho là vô trách nhiệm và không có bằng chứng xứng đáng.

Một trò đùa để lại bài học suốt đời

Cantrill thú nhận rằng vào năm nhất đại học, khi đã xem khoa học máy tính là sự nghiệp cả đời, ông cùng vài sinh viên năm dưới đã bàn tán và chê bai sự thiếu hiểu biết công nghệ của công chúng. Từ đó, một ý tưởng tồi tệ ra đời:

"Chúng tôi sang phòng máy tính bên cạnh, nơi sinh viên ngành nhân văn đang làm bài, và — với vẻ mặt hoảng hốt giả tạo — lớn tiếng thông báo rằng một loại virus đã thoát ra từ phòng lab khoa học máy tính, và tất cả mọi người cần tháo đĩa mềm ra để ngăn chặn sự lây lan."

Kết quả là cảnh hỗn loạn: người ta tháo đĩa mềm, tắt máy, giật dây cáp, la hét và bỏ chạy khỏi phòng. Cantrill và nhóm bạn nhận ra mình vừa làm điều tồi tệ nhưng không thể dập tắt "đám cháy" mình đã châm ngòi. Khi họ cố giải thích đó chỉ là "trò đùa", một số người phản ứng giận dữ, số khác đơn giản không tin — một khi nỗi sợ đã bén rễ, không thể nhổ bỏ.

Hậu quả thật nặng nề: đúng tuần trước kỳ thi cuối kỳ, những ai tắt máy đã mất bài làm. Sáng hôm sau, nhóm sinh viên bị triệu tập lên văn phòng giám đốc cơ sở vật chất, buộc phải viết thư xin lỗi và bị cảnh cáo nghiêm khắc. Cantrill vẫn biết ơn cách vị giám đốc xử lý sự việc với sự nghiêm túc và thấu cảm — bốn năm sau khi tốt nghiệp, ông được trao lại lá thư đó.

Từ trò đùa thời sinh viên đến nỗi sợ AI toàn cầu

Cantrill cho rằng ông có thể đã mang sự xấu hổ này xuống mồ, nhưng cảm thấy buộc phải thú nhận vì "chưa bao giờ thấy nỗi sợ được gieo rắc vô trách nhiệm đến vậy bởi những người tự nhận là chuyên gia công nghệ". Ông dẫn chứng sự kiện mới đây khi cựu nhân viên Anthropic Jacob Coxon tuyên bố — và được Evan Hubinger, trưởng nhóm Anthropic Alignment Science, đồng tình — rằng xác suất AI "giết hết loài người" là hơn 10% trong thập kỷ tới.

Cantrill gay gắt chỉ ra sự phi lý của tuyên bố này:

• Nếu bạn có một đứa con sơ sinh, theo họ, có hơn 10% khả năng đứa trẻ sẽ chết dưới tay AI trước khi vào trung học.
• Coxon viện dẫn lý do như "tấn công cơ sở hạ tầng trọng yếu" và "vũ khí sinh học cấp độ tuyệt chủng" nhưng không giải thích thêm.
• Coxon, 27 tuổi, không phải chuyên gia về cơ sở hạ tầng, vũ khí sinh học hay tuyệt chủng — mà "vô tình" là chuyên gia về sự lây lan của nỗi sợ.

Cantrill nhắc lại câu nói nổi tiếng của Jonathan Swift hơn ba thế kỷ trước: "Sự giả dối bay đi, còn chân lý thì khập khiễng theo sau".

Nỗi sợ lan nhanh hơn bằng chứng

Theo Cantrill, Coxon không phải "ca bệnh gốc" mà là "vector lây truyền": chính ông ta cũng có nỗi sợ này vì đã nghe từ người khác. Vấn đề là khi nỗi sợ bén rễ, số lượng chuyên gia hoảng sợ trở thành một dạng bằng chứng, và những tiếng nói phản biện bị nhấn chìm trong "sự đồng thuận" bề ngoài.

Công chúng không thể hiểu tường tận mọi công nghệ — Cantrill thừa nhận đây chính là sai lầm của chính ông thời 18 tuổi. Vì vậy, ở một mức độ nào đó, chúng ta phải tin tưởng chuyên gia trong lĩnh vực. Nhưng khi chính các chuyên gia đó gieo rắc nỗi sợ, thì nỗi sợ sẽ bén rễ và lan truyền dễ dàng hơn bất kỳ bằng chứng nào theo sau.

Phản biện từ góc nhìn xây dựng máy tính

Từ lĩnh vực chuyên môn hẹp của mình — xây dựng máy tính — Cantrill đưa ra phản biện:

"Trí tuệ không phải là tất cả. Các hành động kỹ thuật không chỉ là hành động của trí tuệ đơn thuần."

Ông lập luận rằng kỹ thuật đòi hỏi không chỉ trí tuệ mà còn cần hành động và lý luận trong thế giới vật lý. Những người tin chắc vào nỗi sợ thường bỏ qua chi tiết này ("robot sẽ làm được thôi!"), nhưng đó là phủ nhận thực tế vật lý rằng robot ngày nay không làm được — và dường như cũng không có lộ trình phù hợp với khung thời gian của nỗi sợ tuyệt chủng.

Hơn nữa, ở mức độ mà các hệ thống số có quyền tự chủ trong thế giới vật lý, thì đó là quyền tự chủ do chúng ta — những con người có tay, chân, bộ não, cha mẹ, con cái — cho phép. AI thực thi trên các hệ thống vật lý được thiết kế với trách nhiệm giải trình và sự kiểm soát của con người.

Đòi bằng chứng phi thường cho tuyên bố phi thường

Cantrill nhắc lại nguyên tắc của Carl Sagan: những tuyên bố phi thường đòi hỏi bằng chứng phi thường. Tuyên bố của Coxon và những người cùng phe là tuyên bố phi thường nhất mà một nhà công nghệ có thể đưa ra, và chúng ta phải yêu cầu bằng chứng tương xứng.

Ông cũng nhấn mạnh:

• Công chúng không có nghĩa vụ hiểu về LLM, cơ sở hạ tầng trọng yếu, vũ khí sinh học hay sinh học tuyệt chủng.
• Gánh nặng chứng minh thuộc về những người đưa ra tuyên bố.
• Chuyên gia, nhờ chuyên môn của mình, mặc nhiên nắm giữ sự tin tưởng của công chúng — và không được lạm dụng niềm tin đó.

Lời nhắn nhủ cho độc giả Việt Nam

Với cộng đồng công nghệ Việt Nam đang ngày càng quan tâm đến AI, bài học này đặc biệt đáng lưu tâm. Trong bối cảnh các diễn đàn, hội thảo và mạng xã hội tràn ngập thông tin về AI, người đọc cần tỉnh táo phân biệt giữa mối lo chính đáng và tuyên bố giật gân thiếu bằng chứng. Việc siêu cường hóa nỗi sợ không giúp ích cho việc xây dựng chính sách AI hợp lý, mà còn có thể dẫn đến những quyết định sai lầm, kìm hãm đổi mới và làm mất đi cơ hội phát triển.

Cantrill kết thúc bằng lời xin lỗi gửi đến những người trong phòng lab đêm hôm đó hơn ba thập kỷ trước: "Bạn không có gì phải sợ khi đó — và (ít nhất là liên quan đến nguy cơ tuyệt chủng!) bạn cũng không có gì phải sợ bây giờ."