Phát hành có trách nhiệm các kết quả toán học do AI tạo ra

Trong bối cảnh các phòng thí nghiệm AI hàng đầu đang thử nghiệm những bài toán tiên tiến trên các mô hình độc quyền mà cộng đồng khoa học không thể tiếp cận, cộng đồng toán học đã đưa ra một bộ khuyến nghị về cách phát hành các kết quả do AI tạo ra một cách có trách nhiệm.

Tài liệu nhấn mạnh rằng sự hiểu biết của con người về toán học vẫn giữ vai trò tối quan trọng, và các phòng thí nghiệm AI cần có trách nhiệm hỗ trợ quá trình hình thành sự hiểu biết đó sau khi công bố kết quả.

Bối cảnh và nguyên tắc chung

Cộng đồng toán học từ lâu đã có những chuẩn mực về việc công bố và phản biện các kết quả nghiên cứu. Một trong những chuẩn mực quan trọng nhất là tác giả của một bài báo phải hiểu lập luận toán học trong đó, tự mình kiểm chứng tính đúng đắn và chịu hoàn toàn trách nhiệm về nội dung. Các tác giả có đóng góp quan trọng cũng thường tổ chức seminar và báo cáo tại hội nghị để giải thích những phát triển mới và trả lời câu hỏi từ đồng nghiệp.

Tuy nhiên, hiện nay AI có thể đưa ra các lập luận toán học trong những tình huống mà người đặt lệnh không thể hiểu, kiểm chứng hoặc chịu trách nhiệm về chúng. Nhóm tác giả đã khảo sát cộng đồng toán học và nhận được hơn 600 phản hồi về ý nghĩa của việc các phòng thí nghiệm AI phát hành kết quả toán học một cách có trách nhiệm.

Các nguyên tắc bao trùm được đưa ra gồm:

• Nếu phòng thí nghiệm AI tạo ra những kết quả toán học quan trọng, họ nên phát hành chúng một cách có trách nhiệm càng sớm càng tốt.
• Các phòng thí nghiệm phát hành kết quả mà chưa có sự hiểu biết của con người đi kèm phải có trách nhiệm đảm bảo rằng sự hiểu biết đó sẽ theo sau, bao gồm cả việc hỗ trợ tài chính.
• Quá trình phát triển sự hiểu biết của con người phải diễn ra tự nhiên và do cộng đồng dẫn dắt, không bị chi phối bởi các phòng thí nghiệm AI.

Hai lộ trình phát hành kết quả

Tài liệu đề xuất hai hướng hành động tùy theo mức độ hiểu biết của con người đi kèm với kết quả.

Bài báo mà con người hiểu được: Những công trình có một nhà toán học chịu trách nhiệm và hiểu đầy đủ nội dung nên tuân theo các chuẩn mực truyền thống của cộng đồng toán học — đăng bản thảo trước, gửi phản biện cho tạp chí và thuyết trình để giải thích công trình.

Bài báo chưa ai hiểu được: Với những kết quả do AI tạo ra mà cả người đặt lệnh cũng không hiểu, tài liệu đề xuất một quy trình gồm hai giai đoạn.

Giai đoạn I: Phát hành ban đầu

Với sự hỗ trợ của các mô hình ngôn ngữ lớn (LLM), việc cải thiện bản viết ban đầu của một kết quả do AI tạo ra là tương đối dễ dàng. Các phòng thí nghiệm AI nên thực hiện những việc sau thay vì để nhà toán học làm sau:

• Rà soát tài liệu để tìm những ý tưởng liên quan đến chứng minh, và trích dẫn các bài báo nơi những ý tưởng đó được giới thiệu lần đầu, ngay cả khi mô hình tự khám phá độc lập.
• Tạo ra phiên bản chứng minh theo phong cách của một bài báo toán học truyền thống, với phần giới thiệu thân thiện, phát biểu định lý và chứng minh chính xác, tránh thuật ngữ lạ khó hiểu.
• Khi công bố, kết quả nên được lưu trữ kịp thời trong các kho học thuật phù hợp, không do phòng thí nghiệm AI kiểm soát, có định danh trích dẫn lâu dài và cho phép bình luận.
• Công khai tên mô hình, câu lệnh, chuỗi suy luận tóm tắt, thời gian và chi phí tính toán ước tính.
• Cố gắng hình thức hóa các chứng minh theo chuẩn cộng đồng, bao gồm tiêu đề bản quyền, tệp thách thức cho comparator và tệp formalization.yaml.
• Ghi rõ cách AI được sử dụng cho từng bài toán cụ thể, và nếu công bố nhiều kết quả cùng lúc thì nên có thêm tài liệu giải thích cách chọn bài toán cũng như số bài toán tương đương mà mô hình đã thất bại.

Các phòng thí nghiệm AI nên tránh biến việc công bố kết quả toán học thành phương tiện tiếp thị cho mô hình của mình, bỏ qua những tác động tiêu cực đáng kể mà việc này gây ra cho cộng đồng toán học.

Giai đoạn II: Hỗ trợ sự hiểu biết của con người

Các phòng thí nghiệm AI có trách nhiệm cung cấp hỗ trợ, bao gồm tài trợ, cho việc phát triển sự hiểu biết của con người về các kết quả mà họ công bố. Quyết định về việc hỗ trợ cụ thể nên do các tổ chức phi lợi nhuận độc lập, đã có quy trình phân bổ tài trợ đảm nhiệm, không phải bởi chính phòng thí nghiệm AI hay nhóm tác giả khuyến nghị.

Một số hoạt động có thể được hỗ trợ:

• Hội nghị hoặc trường hè chuyên về việc tìm hiểu các chứng minh phức tạp hoặc những kết quả có thể mở ra nhiều hướng nghiên cứu mới.
• Hội thảo chuyên đề hoặc nhóm làm việc dài hạn, có thể cần tài trợ cho nghiên cứu sinh sau tiến sĩ hoặc sinh viên.
• Hỗ trợ chuyên gia viết sách hoặc bài viết giải thích dài.

Tài liệu lưu ý rằng việc cộng đồng toán học chấp nhận hỗ trợ như vậy không có nghĩa là công nhận tính chính danh cho các thực hành của phòng thí nghiệm AI, mà là yêu cầu họ đóng góp xứng đáng để hoàn thành trách nhiệm của mình.

Đảm bảo quyền truy cập rộng rãi

Việc sử dụng các mô hình nội bộ độc quyền để nghiên cứu toán học có nguy cơ tạo ra hệ thống hai tầng, nơi các phòng thí nghiệm vượt xa phần còn lại của giới nghiên cứu và khiến cộng đồng toán học bị tách rời khỏi chính ngành của mình.

Đối với các mô hình công khai, sự bất bình đẳng trong truy cập do yếu tố kinh tế và các yếu tố khác có thể thiết lập một hệ thống phân tầng, làm trầm trọng thêm những bất bình đẳng vốn có xuất phát từ sự giàu có của tổ chức và đặc quyền công nghệ.

Do đó, tài liệu khuyến nghị các phòng thí nghiệm AI cấp cho cộng đồng toán học toàn cầu quyền truy cập rộng rãi và công bằng vào các mô hình công khai của họ. Toán học tiến bộ chủ yếu nhờ kiểm chứng tập thể, tổng hợp khái niệm và trực giác chung — những điều không thể phát triển khi một số công cụ tạo ra kết quả tiên tiến chỉ dành cho một nhóm nhỏ được chọn lọc.

Ý nghĩa với Việt Nam

Với các nhà nghiên cứu và sinh viên toán tại Việt Nam, những khuyến nghị này có ý nghĩa thực tiễn rõ rệt. Khi các mô hình AI tiên tiến ngày càng được sử dụng để giải quyết các bài toán khó, việc đảm bảo quyền truy cập công bằng và minh bạch trong công bố kết quả sẽ quyết định liệu cộng đồng toán học trong nước có thể theo kịp tiến độ toàn cầu hay không. Đây cũng là lời nhắc nhở rằng vai trò của người nghiên cứu không chỉ là tạo ra kết quả, mà còn là hiểu và chịu trách nhiệm về chúng — một nguyên tắc cốt lõi trong đào tạo khoa học.