Tôi dùng AI để tạo một bài báo khoa học giả: Chuyện gì đã xảy ra?

Ngành xuất bản học thuật đang chìm trong một "cơn lũ" nội dung do AI tạo ra, với chất lượng thấp và được sản xuất hàng loạt. Một nhà báo của IEEE Spectrum đã tự mình thử nghiệm để xem việc tạo ra một bài báo khoa học giả mạo bằng AI dễ đến mức nào, và liệu hệ thống kiểm duyệt của các tạp chí có đủ sức chặn đứng nó hay không.

Nhà nghiên cứu làm việc với AI

Vấn đề "AI slop" trong giới học thuật

Theo các báo cáo, đến năm 2025, ước tính khoảng 57% các bài báo khoa học được công bố có dấu hiệu chịu ảnh hưởng của các mô hình ngôn ngữ lớn (LLM), tăng vọt so với mức 12% vào năm 2023. Thậm chí, hơn 12% các bài phản biện của tạp chí Nature Communications được xác định là hoàn toàn do AI tạo ra.

"Không chỉ có kho tàng tri thức khoa học bị đe dọa, mà cả nền khoa học nói chung. AI slop đang bào mòn hoàn toàn niềm tin vào khoa học và mọi quy trình khoa học mà chúng ta đã dày công xây dựng suốt nhiều thế kỷ", Amanda Sulicz, quản lý liêm chính nghiên cứu của IEEE, cảnh báo.

Thí nghiệm hai vòng: Tạo giả và đối đầu hệ thống

Nhà báo Benjamin Skuse đã quyết định thử "vibe-research" — một cách chơi chữ từ khái niệm "vibe coding" — tức là dùng các câu lệnh bằng ngôn ngữ tự nhiên để yêu cầu AI tạo ra giả thuyết, mã lập trình và văn bản với mức can thiệp tối thiểu của con người.

Anh đặt ra hai vòng thử thách. Vòng 1: liệu một người không có chuyên môn về AI có thể dùng các công cụ AI phổ thông miễn phí để tạo ra một bài báo giả thuyết phục và lừa được hệ thống phòng thủ của nhà xuất bản hay không. Vòng 2: điều gì xảy ra khi các hệ thống AI tiên tiến hơn không chỉ viết bài mà còn thực hiện chính nghiên cứu phía sau nó.

Để cuộc chơi công bằng, anh chỉ dùng phiên bản miễn phí của ChatGPT và Gemini, không được chỉnh sửa trực tiếp kết quả, cũng không được nhờ chuyên gia hỗ trợ. Anh chọn đề tài từ luận án tiến sĩ cũ của mình: soliton quang học — những xung ánh sáng lan truyền mà không bị biến dạng.

Vòng 1: Bị phát hiện vì trích dẫn bịa đặt

Sau khoảng vài chục câu lệnh, anh đã có một bài báo trông có vẻ chuyên nghiệp: văn phong thuyết phục, hình vẽ và chú thích rõ ràng, tài liệu tham khảo đầy đủ, được định dạng theo đúng chuẩn của IEEE Access.

Tuy nhiên, khi gửi đến IEEE Access, hệ thống kiểm tra tự động đã nhanh chóng phát hiện vấn đề. Jenny Mahoney, tổng biên tập tạp chí, cho biết công cụ STM Integrity Hub tìm ra 12 trích dẫn bịa đặt, còn một công cụ khác của MolecularConnections không thể xác thực được 24 tài liệu tham khảo — trong đó có một trích dẫn có tác giả duy nhất là "John Smith", một dấu hiệu kinh điển của nội dung do AI tạo.

"Tôi là một nhà vật lý thực nghiệm, đây không phải lĩnh vực của tôi, nhưng không có gì sai nghiêm trọng về mặt khoa học. Chỉ là việc có quá nhiều trích dẫn bịa đặt đã ngay lập tức làm dấy nghi ngờ toàn bộ công trình", Mahoney nhận xét.

Vòng 2: Khi AI không chỉ viết mà còn làm nghiên cứu

Ở vòng thứ hai, Skuse chuyển sang dùng FARS (Fully Automated Research System) — một hệ thống của startup Analemma có trụ sở tại Singapore, được thiết kế để tự động thực hiện phần lớn công việc nghiên cứu khoa học.

FARS không phải là một LLM đơn thuần mà là một hệ thống điều phối AI kết nối với cụm máy tính, sử dụng bốn tác nhân chuyên biệt cho việc hình thành ý tưởng, lập kế hoạch, thực hiện thí nghiệm và viết bài. Hệ thống này từng gây chú ý khi tạo ra 166 bài báo trong 417 giờ.

Chỉ với một câu lệnh, 21 phút sau FARS đã tạo ra một đề xuất nghiên cứu dựa trên phần tổng quan tài liệu cực kỳ chi tiết. Ngày hôm sau, thí nghiệm hoàn tất. Chưa đầy 2 giờ sau khi bấm nút "Viết bài", FARS đã tạo ra một bài báo sẵn sàng để gửi đi.

Vẫn bị chặn, nhưng vì lý do khác

Lần này, các trích dẫn đều là thật — nhưng tỷ lệ trích dẫn đến các bản thảo chưa bình duyệt (preprint) lại quá cao. IEEE Access coi việc lệ thuộc quá nhiều vào preprint là một vấn đề, nên bài báo vẫn bị từ chối.

Ngoài ra, Mahoney còn tự phát hiện ra các dấu hiệu bất thường trong hình vẽ: một hình có dòng chữ vô nghĩa "lhewl", và một hình mô tả "bộ não AI" chứa những chấm ngẫu nhiên — dấu hiệu điển hình của việc AI tạo hình.

Điều gì thực sự đang thay đổi?

Thí nghiệm cho thấy một nghịch lý: một người mới hoàn toàn dùng công cụ miễn phí vẫn có thể tạo ra một bài báo giả trông thuyết phục, nhưng hệ thống phòng thủ tự động của nhà xuất bản vẫn đủ sức chặn nó. Tuy vậy, đây chưa phải là một chiến thắng vang dội cho ngành xuất bản khoa học.

"Cảm giác như việc xây dựng một công cụ phát hiện hôm nay có thể không còn hiệu quả với bài báo do AI tạo ra của ngày mai", Luigi Longobardi, giám đốc bộ phận đạo đức và ứng xử xuất bản của IEEE, nhận định.

Ông Ivan Oransky, đồng sáng lập trang Retraction Watch, ví von: "publish-or-perish" (công bố hoặc bị đào thải) là củi, các nhà máy bài báo là xăng, còn AI là chất xúc tác. Ông cho rằng AI không tạo ra vấn đề mới mà chỉ phơi bày những điểm yếu đã tồn tại từ lâu trong hệ thống xuất bản khoa học.

Gánh nặng đè lên các nhà phản biện

Chỉ riêng IEEE Access đã nhận khoảng 60.000 bài nộp mỗi năm và chấp nhận khoảng 20%, tức khoảng 12.000 bài. Mỗi bài được chấp nhận phải qua ít nhất hai nhà phản biện độc lập. Nhưng số lượng lời mời phản biện phải gửi cho mỗi bài đã tăng 50% kể từ năm 2018 — nghĩa là ngày càng khó tìm được người đồng ý bình duyệt.

Các nhà phản biện làm việc này trên tinh thần tự nguyện, bên cạnh việc giảng dạy và tự nghiên cứu. Giờ đây, họ còn bị yêu cầu phải phát hiện cả AI slop.

Tương lai: Con người vẫn là trung tâm?

Có hai viễn cảnh đang cạnh tranh nhau. Xiwen Su của Analemma tin rằng các hệ thống tự động sẽ đảm nhận việc kiểm tra tính tái lập, xác thực thống kê và sàng lọc tính mới, để con người tập trung vào câu hỏi khó hơn: nghiên cứu này có thực sự có ý nghĩa không?

Ngược lại, Mahoney nhấn mạnh: "Câu hỏi không chỉ là nghiên cứu này có ý nghĩa không, mà nên là: Công trình này có đáng tin cậy và có thể tái lập được không?"

Longobardi gợi ý một hướng đi táo bạo: dùng công nghệ để xác thực nghiên cứu ngay từ nguồn. "Có thể các viện nghiên cứu nên nghĩ đến việc phát triển dấu tin cậy của riêng mình, tự động tích hợp thiết bị của nhà nghiên cứu với công nghệ blockchain để nói rằng: 'Đúng, người này đã ở trong phòng thí nghiệm vào ngày này và thu được dữ liệu này'."

Một số nơi đã bắt đầu triển khai. Hai khoa thuộc Viện Max Planck đã xây dựng cơ sở dữ liệu mẫu, gán mã QR duy nhất cho từng mẫu. Trường Hóa học và Kỹ thuật Hóa học thuộc Đại học Southampton đã đưa vào vận hành hệ thống sổ tay thí nghiệm điện tử.

Kết luận cho người đọc Việt Nam

Câu chuyện này mang ý nghĩa đặc biệt với các nhà nghiên cứu và sinh viên Việt Nam đang ngày càng sử dụng AI trong học thuật. Việc dùng AI để hỗ trợ tìm tài liệu, phân tích dữ liệu hay soạn thảo không hề xấu — vấn đề nằm ở chỗ thiếu minh bạch và thiếu kiểm chứng.

Thí nghiệm của Skuse cho thấy một điều rõ ràng: AI có thể tạo ra nội dung trông rất thật, nhưng cái giả vẫn là cái giả. Trong một thế giới mà ranh giới giữa nghiên cứu thật và hàng giả do AI tạo ra ngày càng mờ nhạt, điều quan trọng nhất không phải là cấm AI, mà là xây dựng những cơ chế để con người vẫn giữ được vai trò kiểm soát và chịu trách nhiệm đối với tri thức khoa học.