Lời nguyền đảo ngược: Vì sao mô hình ngôn ngữ biết "A là B" nhưng không thể nói "B là A"

Các mô hình ngôn ngữ lớn (LLM) ngày nay có thể ghi nhớ hàng tỷ sự kiện, nhưng khả năng ghi nhớ đó không hề đối xứng. Một mô hình có thể trả lời chính xác câu hỏi "Ai là tác giả của cuốn sách này?" nhưng lại bối rối trước câu hỏi ngược lại "Cuốn sách này do ai viết?". Đây chính là hiện tượng được giới nghiên cứu gọi là lời nguyền đảo ngược (reversal curse).

Lời nguyền đảo ngược là gì?

Khái niệm này lần đầu được nhóm nghiên cứu của Lukas Berglund và cộng sự công bố vào năm 2023. Họ phát hiện ra rằng nếu huấn luyện một mô hình với câu "A là B", mô hình đó thường có thể tái tạo lại thông tin theo chiều thuận, nhưng lại không thể suy ra "B là A" — dù về mặt logic, hai câu này hoàn toàn tương đương.

Điểm đáng chú ý là hiện tượng này không biến mất khi mô hình lớn hơn hay được huấn luyện nhiều dữ liệu hơn. Nó là một hạn chế mang tính cấu trúc, không chỉ đơn thuần là vấn đề về quy mô.

Ví dụ đơn giản để hình dung

Hãy tưởng tượng bạn dạy một mô hình câu sau:

"Tác giả của tiểu thuyết Nhà giả kim là Paulo Coelho."

Sau đó, khi hỏi "Ai là tác giả của Nhà giả kim?", mô hình trả lời chính xác "Paulo Coelho". Nhưng khi đảo ngược lại thành "Paulo Coelho viết tiểu thuyết nào?", mô hình có thể im lặng, trả lời sai, hoặc bịa ra một tác phẩm khác.

Các nhà nghiên cứu cho rằng nguyên nhân nằm ở cách mô hình học cặp quan hệ có hướng (directed relation). Mạng nơ-ron không lưu trữ sự thật dưới dạng một mối quan hệ đối xứng trong không gian ẩn, mà lưu trữ chúng như một chuỗi xác suất theo hướng xuất hiện trong dữ liệu huấn luyện.

Vì sao điều này quan trọng?

Hiện tượng này có những hệ quả thực tế đáng lo ngại:

• Khả năng suy luận bị giới hạn: Mô hình có vẻ như "hiểu" một khái niệm nhưng thực chất chỉ đang ghi nhớ chuỗi ký tự theo một chiều nhất định.
• Rủi ro ảo giác cao hơn: Khi bị hỏi theo chiều ngược, mô hình dễ bịa đặt thay vì từ chối trả lời.
• Ảnh hưởng đến thiết kế ứng dụng: Các kỹ sư xây dựng hệ thống hỏi đáp cần lưu ý rằng không thể giả định khả năng truy xuất hai chiều là mặc định.

Có cách khắc phục không?

Một số hướng được đề xuất bao gồm:

• Huấn luyện với dữ liệu đảo ngược: Đưa cả hai chiều của mối quan hệ vào tập dữ liệu huấn luyện.
• Tinh chỉnh có mục tiêu: Sử dụng kỹ thuật fine-tuning để dạy mô hình các phép suy luận đối xứng.
• Kết hợp truy xuất ngoài: Dùng cơ sở dữ liệu tri thức (knowledge graph) để xử lý các truy vấn ngược thay vì phụ thuộc hoàn toàn vào bộ nhớ tham số của mô hình.

Dù vậy, cho đến nay, các phương pháp này vẫn chỉ giảm thiểu chứ chưa loại bỏ hoàn toàn lời nguyền đảo ngược.

Ý nghĩa với người dùng và nhà phát triển Việt Nam

Với các đội ngũ đang xây dựng sản phẩm AI tại Việt Nam — từ chatbot chăm sóc khách hàng đến hệ thống tra cứu pháp luật hay y tế — hiểu rõ giới hạn này là điều cần thiết. Việc kiểm thử mô hình bằng cả hai chiều của câu hỏi nên trở thành một bước bắt buộc trong quy trình đánh giá chất lượng, tránh những sai sót khó phát hiện khi sản phẩm đã ra mắt người dùng thực tế.

Hiểu đúng về lời nguyền đảo ngược giúp chúng ta không ảo tưởng rằng LLM "biết" mọi thứ như con người. Chúng ghi nhớ mạnh mẽ, nhưng theo một cách rất khác — và đó là điều mà bất kỳ ai làm việc với AI cũng cần ghi nhớ.