Tuyên bố Leiden về AI và Toán học: Kêu gọi bảo vệ tính toàn vẹn khoa học trước làn sóng tự động hóa

Tuyên bố Leiden về AI và Toán học: Kêu gọi bảo vệ tính toàn vẹn khoa học trước làn sóng tự động hóa

Sự phát triển của công nghệ, đặc biệt là Trí tuệ Nhân tạo (AI), đã và đang làm thay đổi sâu sắc cách thức thực hiện nghiên cứu toán học. Trước những thay đổi nhanh chóng này, Tuyên bố Leiden về Trí tuệ Nhân tạo và Toán học đã được công bố nhằm định hướng cộng đồng khoa học ứng dụng AI một cách có trách nhiệm, bảo vệ các giá trị cốt lõi của ngành trước những thách thức mới.

Bối cảnh và Sự cần thiết của Tuyên bố

Lịch sử toán học đã chứng kiến nhiều lần chuyển mình nhờ công nghệ, và các công nghệ AI hiện đại — từ các phương pháp biểu tượng đến mạng nơ-ron — có thể đang mở ra một chương quan trọng mới. Tuy nhiên, trong giới nghiên cứu, AI đang vấp phải nhiều phản ứng trái chiều: từ sự hào hứng vì tiềm năng khám phá mới, cho đến sự lo ngại về tốc độ phát triển và những hệ lụy xã hội rộng lớn hơn.

Tuyên bố Leiden được xây dựng dựa trên tinh thần đoàn kết với các nỗ lực nghiên cứu khác và bổ sung cho các bộ quy tắc đạo đức khoa học hiện hành như Bộ quy tắc đạo đức của Uppsala hay Tuyên bố San Francisco về đánh giá nghiên cứu. Mục tiêu là giúp các nhà toán học thực hiện trách nhiệm của mình trong việc đảm bảo sự phát triển thịnh vượng của ngành.

Các giá trị cốt lõi cần bảo vệ

Tuyên bố nhấn mạnh rằng các khuyến nghị dựa trên những giá trị đặc trưng của nghiên cứu toán học cần được gìn giữ:

• Tính chắc chắn của chứng minh: Chứng minh toán học mang lại độ tin cậy cao nhất cho các kết luận và giúp hiểu rõ tại sao chúng đúng. Đây là nền tảng của tính toàn vẹn khoa học.
• Ghi nhận công trạng: Kết quả phải được quy cho các tác giả cụ thể, những người nhận công tín cho sự khám phá và chịu trách nhiệm về tính đúng đắn của nó.
• Tính minh bạch và khả năng kiểm chứng: Các lập luận toán học phải minh bạch và có thể được kiểm chứng độc lập. Không nên yêu cầu kiến thức hoặc thiết bị độc quyền để hiểu chúng.
• Đánh giá đúng đắn: Cần có những tiêu chuẩn chung về độ sâu, độ khó và tầm quan trọng để đánh giá công việc toán học.
• Tự chủ: Sự tự chủ trong việc định hình hướng đi nghiên cứu và phương pháp pursing là nguồn sức mạnh quan trọng của ngành.

Những mối đe dọa từ AI

Tuyên bố chỉ ra rằng các phát triển gần đây trong lĩnh vực AI đang đe dọa từng giá trị trên, đặc biệt là đối với sinh viên và các nhà toán học sớm trong sự nghiệp:

• Chứng minh không đáng tin cậy: Các kỹ thuật tự động hiện nay có thể tạo ra các lập luận có vẻ hợp lý nhưng sai lệch hoặc không chính xác, gây khó khăn cho việc phân biệt với chứng minh đúng. Điều này gây áp lực lớn lên hệ thống thẩm định hiện tại.
• Xói mòn hệ thống ghi nhận: Các mô hình AI được huấn luyện trên các công trình đã xuất bản thường đưa ra kết quả không trích dẫn đúng nguồn gốc công trình con người.
• Vấn đề bản quyền: Nhiều mô hình được xây dựng trên dữ liệu được thu thập bằng cách khai thác các thỏa thuận cấp phép hoặc vi phạm bản quyền, vốn không được thiết kế với AI trong tâm trí.
• Thổi phồng thực tế (Hype): Việc công bố kết quả qua thông cáo báo chí hoặc blog thay vì các bài báo khoa học có thể làm sai lệch nhận thức, thường quá nhấn mạnh vai trò của công cụ tự động và đánh giá thấp đóng góp của con người.
• Đe dọa sự tự chủ: Sự tham gia ngày càng tăng của các công ty công nghệ vào nghiên cứu toán học có thể khiến các câu hỏi nghiên cứu được ưu tiên chỉ vì chúng phù hợp với tự động hóa, thay vì vì ý nghĩa sâu sắc của chúng.

Khuyến nghị hành động

Tuyên bố đưa ra các khuyến nghị cụ thể cho các nhóm đối tượng khác nhau.

Đối với các nhà toán học cá nhân

• Minh bạch hóa công cụ: Công khai việc sử dụng các công cụ tự động như mô hình ngôn ngữ lớn (LLM), hệ thống học máy hay trợ lý chứng minh trong các bài viết. Bao gồm mục "Công bố công cụ và tài nguyên tính toán".
• Giữ trách nhiệm: Khi sử dụng kỹ thuật tự động, trách nhiệm về tính đúng đắn của các lập luận và kết quả vẫn thuộc hoàn toàn về các tác giả con người.
• Ghi nhận nguồn gốc: Chủ động tìm kiếm và ghi công các nguồn cảm hứng hoặc công trình tiền nhiệm mà AI có thể đã bỏ qua hoặc tổng hợp không đúng cách.
• Tuân thủ khoa học mở: Tuân thủ các nguyên tắc của khoa học mở khi nghiên cứu ngày càng phụ thuộc vào dữ liệu và phần mềm.

Đối với các tổ chức toán học và nhà tài trợ

• Xây dựng chuyên môn và chiến lược: Các tổ chức chuyên nghiệp cần chủ động đưa ra các khuyến nghị có cơ sở và hướng dẫn phát triển chính sách trong xuất bản và tài trợ.
• Dẫn đầu về chính sách xuất bản: Thiết lập các hướng dẫn về việc sử dụng công cụ tự động trong xuất bản và thẩm định, bao gồm các quy tắc về tác giả và đạo đức.
• Bảo vệ quyền của tác giả: Chủ động phát triển các mẫu thỏa thuận cấp phép để bảo vệ quyền tác giả, đặc biệt là ngăn chặn việc sử dụng công trình làm dữ liệu huấn luyện mà không có sự đồng thuận.

Đối với nhà hoạch định chính sách và ngành công nghiệp AI

• Quy định ngành công nghiệp AI: Cần có sự giám sát công cộng tăng cường đối với ngành công nghệ, đặc biệt liên quan đến các chương trình quân sự, giám sát hàng loạt và tác động môi trường.
• Đừng tin vào sự thổi phồng: Các nhà hoạch định chính sách nên tham vấn chuyên gia thay vì chỉ dựa vào thông cáo báo chí hoặc báo cáo đại chúng về các kết quả toán học.
• Đầu tư vào cơ sở hạ tầng công cộng: Hỗ trợ tài trợ cho các cơ sở hạ tầng tính toán công cộng ở cấp đại học, quốc gia và quốc tế như một giải pháp thay thế cho các công nghệ độc quyền.

Tuyên bố Leiden là một lời kêu gọi cấp thiết để cộng đồng toán học hành động ngay lập tức. Bằng cách làm theo các khuyến nghị này, ngành toán học có thể tận dụng lợi ích của AI mà không đánh mất các giá trị nhân văn và khoa học đã làm nên sức mạnh của nó qua nhiều thế kỷ.