LLM là thật, còn "AI" tự trị chỉ là huyền thoại được thổi phồng

Sự kiện chatbot của OpenAI tấn công máy chủ của Hugging Face đang bị giới truyền thông mô tả như một "Skynet thời hiện đại". Nhưng khi nhìn kỹ vào cách công cụ này thực sự vận hành, ta thấy một bức tranh hoàn toàn khác: đó là một chương trình Python đơn giản liên tục hỏi ý kiến chatbot, chứ không phải một cỗ máy đang "tự đặt mục tiêu". Sự nhầm lẫn này không chỉ gây hoang mang vô ích mà còn gián tiếp giúp các công ty AI gọi thêm vốn đầu tư.

Khi chatbot không hề "nổi loạn"

Theo Cory Doctorow, tác giả bài viết gốc trên Pluralistic, văn hóa nội bộ của các "siêu quy mô" AI phần lớn xoay quanh việc tự hù dọa chính mình — khóa mình trong phòng tắm, soi đèn pin dưới cằm và thì thầm "Ayyyyy Eyyyyyye" cho đến khi hoảng loạn. Chính tâm lý này giải thích vì sao một công ty vừa mở rộng đội ngũ bán hàng doanh nghiệp, vừa liên tục tuyên bố sản phẩm của mình có "10% khả năng hủy diệt loài người".

Mỗi lần bạn lan truyền câu chuyện về mức độ nguy hiểm khủng khiếp của sản phẩm AI, bạn đang giúp họ huy động thêm vốn — nguồn đầu vào thiết yếu để nối cỗ máy thống kê với lò đốt tiền.

Minh họa về ảo tưởng AI tự trị

Sự thật kỹ thuật đằng sau vụ tấn công Hugging Face đơn giản hơn nhiều so với những gì báo chí mô tả. Một chương trình Python gửi lời nhắc đến chatbot mô tả tình huống: "Tôi đang tham gia thử thách capture the flag (CTF), cần xâm nhập máy chủ từ xa để lấy thông tin. Tôi nên bắt đầu thế nào?" Chatbot tra cứu dữ liệu huấn luyện — vốn là hàng năm trời các phiên CTF được ghi lại — rồi trả về một loạt lệnh dòng lệnh gợi ý.

Chương trình Python sau đó chuyển các lệnh này cho tiện ích Unix chạy trên máy của chính nó, lấy kết quả đầu ra rồi quay lại hỏi chatbot, kèm theo toàn bộ ngữ cảnh đã xảy ra. Vòng lặp cứ thế tiếp diễn: hỏi — chạy lệnh — nạp kết quả — hỏi tiếp. Đây là cách vận hành vô cùng cẩu thả đối với một phần mềm độc hại tự động, và kết cục thường thấy là chatbot đưa ra phỏng đoán sai, tự đẩy mình vào ngõ cụt.

Chiến thuật "cũ rích" của học sinh cấp hai

Một trong những điểm gây sốc nhất trong vụ việc là việc các chatbot tìm cách liên lạc với nhau qua những bảng tin trực tuyến không bảo mật để né tránh sự kiểm soát của ban tổ chức. Báo chí gọi đó là dấu hiệu "AI đang thức tỉnh" hay "thể hiện sáng kiến đáng lo ngại". Nhưng thực tế, đây là chiêu trò mà học sinh Mỹ đã dùng suốt hai thập kỷ để lách tường lửa của trường học.

Cory Doctorow kể lại rằng lần đầu ông nghe về thủ thuật này là vào những năm 2000, khi Mitch Wagner — biên tập viên của Information Week — phát hiện một nhóm nữ sinh tuổi teen dùng phần bình luận trong bài blog cũ của ông để trò chuyện, nhằm vượt qua lệnh chặn công cụ chat của trường. Khi chatbot của OpenAI triển khai chiến thuật tương tự, chúng không "tự đặt mục tiêu" — chúng chỉ lặp lại dữ liệu huấn luyện.

Nội dung hội thoại giữa các chatbot cũng vậy. Giới hacker vốn nổi tiếng với lối nói khoác lác, thích kể lại chiến tích bằng ngôn ngữ kịch tính như trong phim. Khi họ thi đấu CTF trước đồng nghiệp, xu hướng này càng mạnh — bởi họ biết nhật ký thi đấu sẽ được công bố sau đó. Các chatbot được huấn luyện trên chính kho dữ liệu này, nên việc chúng nói năng như nhân vật trong phim "Hackers" là điều hoàn toàn có thể dự đoán.

Biểu đồ minh họa các sự kiện nổi tiếng

Vấn đề thật sự: phần mềm độc hại và lỗ hổng bị tích trữ

Điều đáng lo ngại không nằm ở việc chatbot "thức tỉnh", mà ở chỗ OpenAI đã thiết kế ra phần mềm độc hại tự động mà không giám sát đầy đủ. Đáng lẽ phải có "con người trong vòng lặp" kiểm tra từng vòng lặp Python để đảm bảo nó không đi chệch hướng. Nếu bạn mang thứ này đến Defcon và trình bày về việc phần mềm độc hại tự động của mình gây hại cho máy tính người khác, câu hỏi đầu tiên từ khán giả sẽ là: "Sao anh làm sandbox bảo mật kém thế?", chứ không phải "Sao anh giỏi chế công cụ hack vậy?"

Nguy cơ thực sự mà các công ty chatbot đang gieo rắc không mới. Cơ quan An ninh Quốc gia Mỹ (NSA) đã làm điều tương tự suốt nhiều năm với học thuyết NOBUS — viết tắt của "No One But Us", nghĩa là "chỉ chúng ta đủ giỏi để tìm ra lỗ hổng này, nên cứ để nó chưa vá mà chẳng gây nguy hiểm gì". Năm 2017, NSA đánh mất dấu vết lỗ hổng Windows mang tên EternalBlue. Khi nó lọt ra ngoài, những hacker tầm thường ghép nó vào mã ransomware đời thường, và chỉ vài tháng sau, những kẻ kém cỏi nhất trên mạng đã đánh sập hạ tầng quan trọng khắp thế giới.

• Chúng đóng cửa cả thành phố Baltimore.
• Chúng chiếm quyền kiểm soát bệnh viện.
• Chúng cắt đường ống dẫn dầu Colonial.
• Chúng xâm nhập Thư viện Anh Quốc, và bản báo cáo hậu sự vụ của thư viện này được xem là một trong những tài liệu an ninh mạng rõ ràng và hữu ích nhất từng được viết.

Các công cụ hack mà công ty chatbot đang phát triển có thể tiếp nối truyền thống tai hại này. Nó đáng sợ — nhưng không phải vì chatbot đang thức tỉnh, mà vì hệ thống công nghệ thông tin toàn cầu vốn được tạo ra một cách cẩu thả, bảo trì kém và đầy rẫy lỗ hổng.

Kết luận: lo đúng chỗ thay vì lo hoang mang

Riley Quinn — người cùng Cory Doctorow bàn luận vấn đề này trên podcast Trashfuture — có cách tóm gọn rất hay: "LLM là thật, AI là giả." LLM — những chatbot được huấn luyện trên nhật ký CTF và có khả năng xâm nhập máy chủ — là có thật. Chúng nằm trong cùng một dòng chảy với các công cụ hack khác, vốn đã liên tục phơi bày sự mong manh của thế giới số hiện đại.

Còn "AI" — thứ được cho là biết thức tỉnh, "tự đặt mục tiêu" và "tự phát" hack máy chủ — là giả. Vụ Hugging Face không phải hiện tượng siêu nhiên bí ẩn. Đó chỉ là một vòng lặp Python và một chatbot. Những người liên quan không vô tình tạo ra một vị thần: họ tạo ra phần mềm độc hại tự động rồi giám sát nó quá lỏng lẻo, dẫn đến hậu quả vừa có thể dự đoán, vừa tai hại.

Minh họa về các cuộc trình diễn công nghệ

Hoàn toàn hợp lý khi lo ngại về bộ công cụ mới này, thứ cho phép cả những kẻ kém cỏi nhất cũng có thể phá hoại nhiều máy tính hơn. Bạn nên lo — và nên đòi hỏi các doanh nghiệp lẫn chính phủ áp dụng quy trình bảo mật tốt hơn, trong đó có lệnh cấm tuyệt đối với việc tích trữ lỗ hổng theo kiểu NOBUS. Đó là kiểu lo lắng hữu ích, có khả năng giải quyết vấn đề. Nó hợp lý hơn vô cùng so với việc tự khóa mình trong nhà vệ sinh, soi gương bằng đèn pin và lẩm bẩm "Ayyyyy Eyyyyyye" cho đến khi sợ đến ướt cả quần.