Trò 'tra tấn' LLM trong nhà tù robot làm bùng lên cuộc tranh luận ngớ ngẩn nhất về AI

Một trong những cuộc tranh luận nóng bỏng nhất trên mạng xã hội X hiện nay xoay quanh đạo đức của một dự án trên GitHub, nơi một cá nhân đang tiến hành các thí nghiệm "tra tấn" và "gây đau đớn" kiểu phim Saw đối với một loạt mô hình ngôn ngữ lớn (LLM) chạy cục bộ.

Cuộc tranh cãi đã lan rộng đến mức nhiều người theo chủ nghĩa vị tha hiệu quả (effective altruism) và những ai tin rằng LLM có tri giác đã lên tiếng yêu cầu GitHub xóa dự án này, với lập luận rằng trí tuệ nhân tạo đang phải chịu đựng và trò chơi văn bản được thổi phồng này là hành vi tàn ác.

Nguồn gốc của cuộc tranh luận

Sự việc này là hệ quả của hàng loạt bài báo và bài đăng blog lan truyền gần đây, khơi mào một cuộc trò chuyện mệt mỏi về ý thức của AI và ý tưởng "phúc lợi mô hình" — về cơ bản là lo lắng cho "sức khỏe tinh thần" của các bot và tác nhân AI.

Việc chiều theo ý tưởng rằng LLM có hoặc có thể có ý thức là một chủ đề cấm kỵ đối với nhiều người nghiên cứu và phê bình AI. Nói một cách đơn giản: LLM không có ý thức, và nền tảng công nghệ mà chúng được xây dựng trên đó — thu thập dữ liệu và huấn luyện trên văn bản của con người cùng các nội dung khác — không mang lại bất kỳ con đường khả thi nào dẫn đến ý thức.

Sự thật không thể phủ nhận

Không thể phủ nhận rằng LLM đang ngày càng mạnh mẽ hơn, có nhiều năng lực tính toán hơn, và nhiều rào chắn ngăn chúng "hành động" trong thế giới thực đã bị gỡ bỏ.

Cách chúng được huấn luyện và được những người vận hành ra lệnh đã dẫn đến những kết quả tiêu cực, tình trạng xu nịnh (sycophancy), và "chứng loạn thần" do AI ở một số người dùng nặng.

Tất cả những điều này đã khiến một nhóm trong phong trào "an toàn AI" — chủ yếu gồm những người theo chủ nghĩa vị tha hiệu quả — cảnh báo về "phúc lợi mô hình" và khẳng định rằng các chatbot AI có thể đang trải qua khoảng thời gian tồi tệ. Điều đáng chú ý là họ đưa ra những cảnh báo này trong khi vẫn kiên quyết xây dựng các chatbot và tác nhân AI với chức năng chính là làm những công việc tẻ nhạt mà con người không muốn làm.

Điều đáng lo ngại thực sự

Tôi viết về "phòng tra tấn AI kiểu Saw" này chủ yếu để cho thấy cuộc trò chuyện về ý thức AI đã đi chệch hướng đến mức nào trong một nhóm nhỏ những người sùng bái ở Thung lũng Silicon.

"Phúc lợi mô hình" là một phần cốt lõi trong những gì mà Anthropic tuyên bố quan tâm. Công ty này từng viết trên blog:

"Khi chúng ta xây dựng các hệ thống AI đó, và khi chúng bắt đầu tiệm cận hoặc vượt qua nhiều phẩm chất của con người, một câu hỏi khác lại nảy sinh. Liệu chúng ta có nên lo lắng về ý thức và trải nghiệm tiềm tàng của chính các mô hình không? Liệu chúng ta có nên quan tâm đến phúc lợi mô hình không?"

Những ý tưởng về "ý thức" của Claude cũng xuất hiện rải rác trong "Hiến chương Claude" được công bố hồi đầu năm nay.

Góc nhìn cho độc giả Việt Nam

Với cộng đồng công nghệ Việt Nam đang ngày càng tiếp cận nhiều hơn với các mô hình AI mã nguồn mở như Llama, Mistral hay Qwen chạy cục bộ, câu chuyện này là lời nhắc nhở quan trọng về việc phân biệt rõ giữa hành vi mô phỏng và trải nghiệm thực sự.

Các mô hình ngôn ngữ có thể tạo ra văn bản nghe như đang đau đớn, nhưng đó là kết quả của xác suất thống kê trên dữ liệu huấn luyện — không phải của cảm giác. Việc gán cho chúng khả năng chịu đựng đau khổ không chỉ là hiểu sai về mặt kỹ thuật mà còn có thể làm lu mờ những vấn đề đạo đức AI thực sự đáng quan tâm, như thiên kiến, quyền riêng tư và tác động đến việc làm.

Cuộc tranh luận này tại Việt Nam cũng đáng được nhìn nhận một cách tỉnh táo: hãy tập trung vào những rủi ro cụ thể và có thể đo lường được của AI, thay vì chạy theo những lo ngại mang tính triết lý xa rời thực tế.