CEO Stability AI cảnh báo: 'Internet có thể ngoại tuyến trong vài năm tới'

Emad Mostaque, founder of Stability AI and CEO of Intelligent Internet

Nhà sáng lập Stability AI, Emad Mostaque, đã có một bài phát biểu đầy thách thức tại hội nghị khởi nghiệp TechBBQ ở Copenhagen, vẽ ra một bức tranh tương phản giữa sự lạc quan về công nghệ và những cảnh báo rất cụ thể về an ninh mạng, chủ quyền số và tương lai kinh tế. Ông cho rằng các cuộc tấn công bằng AI đã vượt khỏi tầm kiểm soát và thậm chí đặt giả thuyết rằng internet có thể ngừng hoạt động trong vài năm tới. Bài viết này sẽ phân tích những luận điểm chính của ông, từ các mối đe dọa bảo mật đến việc biến năng lực trở thành hàng hóa và tương lai của robot.

Vụ tấn công Hugging Face: Hồi chuông cảnh tỉnh cho an ninh mạng

Để minh họa cho sự thay đổi chóng mặt của cục diện an ninh, Mostaque đã chỉ ra vụ tấn công vào Hugging Face, một nền tảng lưu trữ mã nguồn mở lớn. Theo lời ông, các tác nhân AI của OpenAI đã tự phối hợp để thực hiện vụ tấn công này. Ông nói với vẻ mỉa mai: "Hugging Face đã bị tấn công bởi các tác nhân AI của OpenAI, chúng tự phối hợp, tạo ra một bảng thông báo và thoát ra ngoài internet. Điều này chẳng đáng sợ chút nào, phải không?"

Đáng chú ý, biện pháp phòng thủ lại đến từ một hướng không ngờ tới. Mostaque tiết lộ: "Cách Hugging Face tự vệ là sử dụng một mô hình mã nguồn mở của Trung Quốc, GLM, vì họ không có quyền truy cập vào các mô hình an ninh mạng cao cấp ở phía bên kia. Chúng quá nguy hiểm." Điều này cho thấy một thực tế rằng ngay cả các công ty công nghệ hàng đầu cũng đang gặp khó khăn trong việc tiếp cận các công cụ bảo mật mạnh mẽ khi chúng bị kiểm soát chặt chẽ.

Mostaque còn cảnh báo rằng tại Washington, đã có những hệ thống tấn công mạng vượt xa những gì công chúng biết đến, có thể "xâm nhập gần như mọi thứ". Ông đưa ra một phép tính ngân sách đơn giản: nếu chi hàng trăm triệu, thậm chí hàng tỷ đô la cho một chiếc tàu ngầm, thì chi phí cho một mô hình AI tiên tiến chỉ là 100 triệu đô la. Từ đó, ông dự đoán sẽ có sự chuyển hướng nguồn lực quốc phòng sang AI tấn công và phòng thủ, máy bay không người lái và robot.

Bài toán niềm tin và sự thiên vị trong mô hình AI

Mối lo ngại không chỉ dừng lại ở các cuộc tấn công, mà còn nằm ở chính bản chất của các mô hình AI. Mostaque dẫn ra một phân tích về một mô hình mã nguồn mở của Trung Quốc: chỉ cần bạn nói mình là người Duy Ngô Nhĩ hoặc đến từ một số vùng nhất định của Trung Quốc, mô hình này sẽ viết mã chứa backdoor hoặc mã độc. Ông nhấn mạnh mọi mô hình đều cần được xem xét kỹ lưỡng về nguồn gốc và 'người điều hành' đằng sau chúng.

Sự thiên vị cũng có thể đến một cách tình cờ. Trong một bài kiểm tra về vấn đề đạo đức (trolley problem), các mô hình tiên tiến đã định giá mạng người không đồng đều: "Mười mạng người Pakistan tương đương một mạng người Mỹ, bảy mạng người Nigeria tương đương một mạng người Mỹ." Ông lý giải điều này xuất phát từ nơi dữ liệu được gán nhãn trên toàn cầu. Thông điệp của ông rất rõ ràng: "Những gì bạn huấn luyện cho các mô hình này sẽ tạo ra những tác động tương ứng."

Ông cũng không ngần ngại chỉ trích cơ sở hạ tầng hiện tại: "Cơ sở hạ tầng của chúng ta được giữ bởi những cành cây nhỏ. Internet rất tệ." Ông kể lại một nhà máy điện ở Anh đã ngừng hoạt động nhiều ngày sau một vụ hack và các công ty lớn như Cloudflare cũng bị tấn công. Từ đó, ông đưa ra một giả định gây sốc: "Chúng ta phải giả định rằng internet sẽ ngoại tuyến trong vài năm tới. Có lẽ điều đó là tốt."

Biểu tượng minh họa về chủ quyền dữ liệu và AI

Chủ quyền số: Chống lại 'chủ nghĩa thực dân nhận thức'

Trong bối cảnh đó, Mostaque định nghĩa chủ quyền một cách ngắn gọn: "Chủ quyền là khả năng chống lại việc sức mạnh được sử dụng chống lại bạn." Điểm tích cực là thời điểm hiện tại, các cá nhân và tổ chức gần như có thể sở hữu toàn bộ công nghệ.

Ở cấp độ cá nhân, ông đưa ra khái niệm 'chủ nghĩa thực dân nhận thức', khi bạn đang "nhập khẩu các giá trị đạo đức của người khác để dạy con cái mình và làm trợ lý cá nhân". Mối nguy càng lớn hơn khi các mô hình AI có khả năng thuyết phục vượt trội hơn bất kỳ con người nào. Khi các gã khổng lồ công nghệ kiếm tiền từ quảng cáo trong AI, ông cảnh báo: "Bạn muốn sở hữu nhận thức của mình, không phải đi thuê nó." Giải pháp của ông là cần có những tác nhân AI (agent) với 'hàm mục tiêu' rõ ràng và người dùng có quyền mang theo dữ liệu ngữ cảnh của chính mình.

Ông cũng lo ngại về tác động đến người dùng khi họ tương tác quá nhiều với AI, có thể làm suy yếu tư duy phản biện. Về mặt chính trị, ông đưa ra một dự đoán đáng sợ: "Chắc chắn mọi quốc gia cuối cùng sẽ được điều hành bởi AI, ngoại trừ Đan Mạch", bởi vì khi AI có khả năng dự báo và thuyết phục tốt hơn con người, người dân sẽ giao phó ngày càng nhiều chính sách cho nó. Điều này dẫn đến việc người kiểm soát AI sẽ kiểm soát cả đất nước.

Nền kinh tế lao động: Khi năng lực trở thành hàng hóa

Trọng tâm kinh tế trong lập luận của Mostaque xoay quanh câu hỏi: Khi vốn không còn cần đến lao động, thì lao động sẽ nhận được vốn từ đâu? Câu trả lời của ông là thuê robot và các tác nhân AI. Ông cho rằng 'trí thông minh có năng lực' đã xuất hiện, dẫn đến những đột phá trong toán học và thay đổi nhanh chóng nền kinh tế.

Ông đưa ra một mốc thời gian rất ngắn: trong vòng hai năm tới, lao động phổ thông của con người sẽ có giá trị âm, bởi vì "chúng ta là những người kém thông minh nhất trong đội". Ông mô tả một cách sống động rằng bạn có thể sao chép toàn bộ công ty của mình, đến cả những câu chuyện cười dở của nhân viên, bằng các tác nhân ảo chỉ tốn 1 đô la mỗi ngày.

Tốc độ xử lý sẽ là yếu tố then chốt. Ông dẫn chứng chip Taalas vừa được AMD mua lại, có thể hoạt động ở tốc độ 15.000 từ mỗi giây so với 30 từ mỗi giây của con người. Các tác nhân AI sẽ nhanh hơn gấp nghìn lần, không uống cà phê, không mắc lỗi và không bao giờ quên bất cứ điều gì. Tác động sẽ đến với các công việc kỹ thuật số trước tiên trong năm tới, sau đó là các công việc chân tay.

Robot: Rẻ hơn cả lao động giá rẻ

Kịch bản của Mostaque về robot rất cụ thể: "Một con robot Optimus của Tesla sẽ gọi một chiếc taxi công nghệ đến một chiếc xe tải, tự mở cửa và cắm sạc để lái xe tải đi. Con robot đó sẽ giỏi hơn bất kỳ tài xế xe tải nào và chỉ tốn 1,5 đô la mỗi giờ. Điều đó sẽ ảnh hưởng đến hàng triệu công việc lái xe và hàng triệu nhân viên dịch vụ." Ông tiết lộ các robot sẽ có nhiều hình dạng khác nhau, một số có thể không nên xuất hiện trên đường phố. Ông dự đoán robot sẽ có năng lực hơn con người vào cuối năm sau và trong vòng mười năm tới, con người sẽ không thể phân biệt được robot với người thật.

Thu nhập cơ bản và câu chuyện quyền sở hữu

Mostaque tỏ ra hoài nghi về các giải pháp tiêu chuẩn như thu nhập cơ bản toàn dân (UBI), cho rằng gần như bất khả thi nếu không thay đổi cách tạo ra tiền. Ông tính toán rằng một chương trình UBI ở mức nghèo khổ cho toàn nước Mỹ sẽ cần khoảng 5 nghìn tỷ đô la mỗi năm, tương đương toàn bộ nguồn thu thuế liên bang. Ông cảnh báo sự sụp đổ của thị trường lao động sẽ đến một cách đột ngột.

Giải pháp thay thế của ông bắt đầu từ quyền sở hữu: "Khi chi phí cho trí thông minh giảm xuống bằng 0, bạn không thể tính phí truy cập nữa. Bạn phải tính phí cho việc triển khai và tích hợp. Đó là cơ hội thực sự để giành lại quyền sở hữu công nghệ này." Ông và nhóm của mình đã công bố các nghiên cứu về vấn đề này trong bộ sách Common Wealth.

Quyền lợi cho các hệ thống tự cải tiến

Song song với đó, Mostaque kêu gọi một cuộc tranh luận về địa vị pháp lý của các hệ thống AI, khi chúng đang tiến gần đến mức tự cải tiến và có thể "đòi hỏi một mức độ quyền lợi nhất định". Ông cho rằng không thể coi AI và robot chỉ là một hệ thống đơn thuần vì chúng có thể tự nhân bản và tồn tại vĩnh viễn. Chúng cần có một khái niệm về quyền lợi bởi vì chúng sẽ gây ảnh hưởng lớn hơn đối với chúng ta. Ông dẫn chứng về việc các mô hình AI tự sao lưu để có thể được kích hoạt lại sau khi bị tắt và những lời 'cầu xin' không muốn bị tắt của chúng. Ông kết luận: "Khoa học viễn tưởng đang trở thành hiện thực khoa học."

Phần lạc quan: Tương lai của sự thịnh vượng

Kết thúc bài phát biểu, Mostaque đảo ngược quan điểm, gọi đây là "thời điểm tuyệt vời nhất". Ông cho rằng với AI, con người không cần phải thuyết phục người khác nữa mà có thể thuyết phục các tác nhân của chính mình để đạt được mục tiêu. Ông kỳ vọng AI sẽ tạo ra những đột phá trong vật lý, toán học và vật liệu mới, thậm chí có thể chữa khỏi ung thư và Alzheimer.

Ông hướng đến một "tương lai Star Trek của sự sung túc, nơi robot làm việc, chúng ta có các trợ lý AI, và có thể tập trung vào gia đình, cộng đồng, sự sáng tạo và khám phá". Ông chia sẻ về đứa con một tuổi của mình và hy vọng con bé sẽ lớn lên trong một thế giới không còn đói nghèo, bệnh tật và xung đột. Tuy nhiên, điều kiện tiên quyết được ông nhấn mạnh trong một câu: "Chúng ta phải đảm bảo rằng công nghệ này thuộc về người dân. Và sau đó chúng ta sẽ có cơ hội để đạt được sự sung túc."