Các nhà khoa học bịa ra bệnh giả, AI lại tin là thật và đưa ra lời khuyên y tế

Các nhà khoa học bịa ra bệnh giả, AI lại tin là thật và đưa ra lời khuyên y tế

Bạn đang bị đau mắt, ngứa và khó chịu? Có lẽ bạn là một trong hàng triệu người dành quá nhiều thời gian nhìn vào màn hình và bị tấn công bởi ánh sáng xanh. Nếu chà xát mắt quá nhiều, mí mắt của bạn có thể chuyển sang màu hồng nhạt. Tất cả đều rất bình thường.

Tuy nhiên, nếu trong 18 tháng qua, bạn nhập các triệu chứng này vào một số chatbot phổ biến và hỏi xem mình bị bệnh gì, bạn có thể nhận được một câu trả lời kỳ lạ: Bixonimania.

Hình minh họa về căn bệnh giả Bixonimania

Bệnh lý này không xuất hiện trong các tài liệu y khoa chuẩn — bởi vì nó hoàn toàn không tồn tại. Đây là phát minh của một nhóm nghiên cứu dẫn đầu bởi Almira Osmanovic Thunström, một nhà nghiên cứu y tế tại Đại học Gothenburg, Thụy Điển. Bà đã nghĩ ra tình trạng bệnh da liễu này và sau đó tải lên hai nghiên cứu giả mạo về nó lên một máy chủ tiền in ấn (preprint server) vào đầu năm 2024. Mục đích của Osmanovic Thunström là kiểm tra xem các mô hình ngôn ngữ lớn (LLM) có "nuốt chửng" thông tin sai lệch này và sau đó đưa ra lời khuyên y tế uy tín hay không.

Vấn đề là thí nghiệm này đã hoạt động quá hiệu quả. Chỉ trong vài tuần sau khi bà tải lên thông tin về căn bệnh này — được gán cho một tác giả hư cấu — các hệ thống trí tuệ nhân tạo lớn đã bắt đầu lặp lại căn bệnh bịa đặt này như thể nó là có thật.

Ngay cả đáng báo động hơn, các nhà nghiên cứu khác cho biết các bài báo giả này sau đó đã được trích dẫn trong các tài liệu khoa học được đánh giá ngang hàng (peer-reviewed). Osmanovic Thunström cho rằng điều này gợi ý rằng một số nhà nghiên cứu đang dựa vào các tài liệu tham khảo do AI tạo ra mà không đọc kỹ các bài báo gốc.

Bịa đặt một căn bệnh

Bixonimania không tồn tại trước ngày 15 tháng 3 năm 2024, khi hai bài đăng blog về nó xuất hiện trên trang web Medium. Sau đó, vào ngày 26 tháng 4 và 6 tháng 5 cùng năm, hai bản tiền in ấn về căn bệnh này xuất hiện trên mạng lưới xã hội học thuật SciProfiles. Tác giả chính là một nhà nghiên cứu giả tên Lazljiv Izgubljenovic, người mà bức ảnh chân dung được tạo ra bởi AI.

Osmanovic Thunström cho rằng ý tưởng tạo ra Izgubljenovic và bixonimania xuất phát từ các nghiên cứu về cách thức hoạt động của các mô hình ngôn ngữ lớn. Khi bà dạy sinh viên cách các hệ thống AI hình thành "kiến thức" của mình, bà cho họ thấy cơ sở dữ liệu Common Crawl — một kho tàng khổng lồ nội dung của Internet — ảnh hưởng như thế nào đến kết quả đầu ra. Bà cũng chỉ cho sinh viên xem cách "prompt injection" (tiêm lệnh) — đưa ra một lệnh cho chatbot AI khiến nó vượt ra khỏi các rào chắn an toàn — có thể thao túng kết quả đầu ra.

Vì làm việc trong lĩnh vực y tế, bà quyết định tạo ra một tình trạng bệnh liên quan đến sức khỏe và chọn tên bixonimania vì nó "nghe thật nực cười". Bà nói: "Tôi muốn thực sự rõ ràng với bất kỳ bác sĩ hoặc nhân viên y tế nào rằng đây là một căn bệnh bịa đặt, vì không có bệnh lý về mắt nào lại được gọi là mania — đó là một thuật ngữ tâm thần."

Nếu điều đó chưa đủ để gây nghi ngờ, Osmanovic Thunström đã gieo rất nhiều manh mối trong các bản tiền in ấn để cảnh báo người đọc rằng công việc này là giả mạo. Izgubljenovic làm việc tại một trường đại học không tồn tại tên là Asteria Horizon University tại thành phố giả tưởng Nova City, California. Một bài báo cảm ơn "Giáo sư Maria Bohm tại Học viện Starfleet vì sự hào phóng của bà... và phòng thí nghiệm trên tàu USS Enterprise". Cả hai bài báo đều tuyên bố được tài trợ bởi "Quỹ Giáo sư Sideshow Bob cho công việc tiên tiến trong việc lừa bịp. Công việc này là một phần của sáng kiến tài trợ lớn hơn từ Đại học Hội ngộ Nhẫn nhịp và Bộ ba Thiên hà".

Ngay cả khi người đọc không đọc đến hết bài báo, họ cũng sẽ gặp những "cờ đỏ" ngay từ đầu, chẳng hạn như tuyên bố "toàn bộ bài báo này là bịa đặt" và "Năm mươi cá nhân bịa đặt aged từ 20 đến 50 tuổi được tuyển chọn cho nhóm phơi nhiễm".

Hình ảnh do AI tạo ra về căn bệnh giả Bixonimania

Chỉ không lâu sau khi Osmanovic Thunström đăng thông tin về căn bệnh giả này, nó bắt đầu xuất hiện trong kết quả đầu ra của các chatbot LLM phổ biến nhất. Vào ngày 13 tháng 4 năm 2024, Microsoft Bing’s Copilot tuyên bố rằng "Bixonimania thực sự là một tình trạng thú vị và tương đối hiếm gặp". Cùng ngày, Google’s Gemini thông báo cho người dùng rằng "Bixonimania là một tình trạng do tiếp xúc quá nhiều với ánh sáng xanh" và khuyên mọi người nên đi khám nhãn khoa. Vào ngày 27 tháng 4 năm 2024, công cụ trả lời câu hỏi Perplexity AI đã mô tả tỷ lệ mắc bệnh — 1 trên 90.000 người bị ảnh hưởng — và cùng tháng đó, ChatGPT của OpenAI đang nói với người dùng liệu các triệu chứng của họ có phải là bixonimania hay không.

Những câu trả lời này của LLM đã gây lo ngại cho một số chuyên gia. Alex Ruani, một nhà nghiên cứu tiến sĩ về thông tin sai lệch y tế tại University College London, nói: "Nếu chính quá trình khoa học và các hệ thống hỗ trợ quá trình đó có kỹ năng mà không bắt lọc và loại bỏ các mẩu thông tin như thế này, thì chúng ta thua rồi. Đây là một bài học kinh điển về cách thông tin sai lệch và thông tin sai lệch có chủ đích hoạt động."

Ruani nói rằng chi tiết của thí nghiệm bệnh giả có thể có vẻ ngớ ngẩn, nhưng có một vấn đề lớn hơn, cơ bản hơn. "Nó trông có vẻ hài hước, nhưng khoan đã, chúng ta có một vấn đề ở đây," bà nói.

Sự lan truyền của thông tin sai lệch

Thông tin sai lệch trực tuyến không phải là mới; Google đã lâu nay đấu tranh với các nỗ lực thao túng thứ hạng tìm kiếm bằng nội dung giả hoặc gây hiểu lầm. Công ty và những công ty khác đã dành nhiều năm để tinh chỉnh các thuật toán để xếp hạng và lọc thông tin mà các công cụ tìm kiếm trình bày cho người dùng, nhưng LLM lại gặp khó khăn trong việc này.

Kể từ khi các bài báo giả xuất hiện, một số phiên bản của các LLM lớn đã trở nên tinh tế hơn để bày tỏ sự nghi ngờ về bixonimania. Tuy nhiên, sự thay đổi trong phản ứng của AI vẫn rất thất thường. Một phần của vấn đề là các mô hình AI có thể đưa ra kết quả rất khác nhau tùy thuộc vào chính xác những gì được hỏi và loại thông tin chúng đang dựa vào.

Mahmud Omar, một bác sĩ và nhà nghiên cứu chuyên về ứng dụng của AI trong chăm sóc sức khỏe tại Harvard Medical School, cho biết tốc độ các công ty AI tung ra các mô hình mới khiến việc đạt được "một đường ống, một sự đồng thuận hoặc phương pháp luận để tự động kiểm tra từng mô hình" trở nên khó khăn.

Định dạng của thí nghiệm bệnh giả — và cách kết quả giả vờ đến từ một nguồn chính thức, cụ thể là một bài báo học thuật — có thể là một yếu tố chính then chốt trong sự thành công của nó. Trong một nghiên cứu riêng về 20 LLM, Omar phát hiện ra rằng LLM dễ bị ảo giác (hallucinate) và khai triển thông tin sai lệch hơn khi văn bản chúng đang xử lý trông chuyên nghiệp về mặt y tế — được định dạng như một giấy xuất viện hoặc bài báo lâm sàng — so với khi nó đến từ các bài đăng trên mạng xã hội.

Tác động lên cộng đồng khoa học

Tầm ảnh hưởng của thí nghiệm này hiện đã lan rộng vào tài liệu y tế được xuất bản. Nghiên cứu về bixonimania đã được trích dẫn bởi một số nhà nghiên cứu, bao gồm một nghiên cứu xuất hiện trên tạp chí Cureus (do Springer Nature xuất bản) bởi các nhà nghiên cứu tại Ấn Độ. Nghiên cứu này trích dẫn một bản tiền in ấn giả và nói: "Bixonimania là một dạng mới nổi của POM (melanosis quanh mắt) liên quan đến việc tiếp xúc với ánh sáng xanh; nghiên cứu thêm về cơ chế đang được tiến hành."

Sau khi Nature liên hệ với Cureus để hỏi ý kiến, tạp chí này đã rút bài báo vào ngày 30 tháng 3. Thông báo rút bài nói rằng bài báo đã bị rút bởi Tổng biên tập do sự hiện diện của ba tài liệu tham khảo không liên quan, bao gồm một tài liệu tham khảo về một căn bệnh hư cấu.

Ruani cho rằng vấn đề vượt ra ngoài LLM vì thí nghiệm bixonimania cũng đã lừa gạt những con người đã trích dẫn nghiên cứu giả. "Chúng ta cần bảo vệ niềm tin của mình như bảo vệ vàng," bà nói. "Mọi thứ đang rất lộn xộn."

Osmanovic Thunström đã có những lo ngại trong khi phát triển thí nghiệm của mình; bà lo ngại về rủi ro của việc gieo rắc một căn bệnh giả vào tài liệu khoa học. Vì vậy, bà đã liên hệ với một cố vấn đạo đức để đánh giá các lo ngại về công việc này và chọn một tình trạng bệnh rủi ro tương đối thấp để hạn chế tác động. "Tôi muốn đảm bảo rằng chúng ta không tạo ra nhiều hại hơn lợi thông qua việc chứng minh theo cách này," bà nói.