Nhóm Cố vấn về Toán học và Trí tuệ Nhân tạo chính thức ra mắt

Trong bối cảnh trí tuệ nhân tạo đang tạo ra những bước tiến chưa từng có trong nghiên cứu toán học, một nhóm các nhà toán học hàng đầu thế giới đã thành lập Nhóm Cố vấn về Toán học và Trí tuệ Nhân tạo (AGMAI). Nhóm hoạt động độc lập, đặt trụ sở tại Viện Nghiên cứu Cao cấp (IAS) ở Princeton và có mặt trực tuyến tại agmai.org.

Nhiệm vụ cấp bách hiện tại của nhóm là tư vấn cho OpenAI về cách điều phối việc công bố một số lượng lớn các kết quả toán học quan trọng mà công ty này cho biết được tạo ra bởi mô hình nội bộ của họ.

Mục đích và sứ mệnh của nhóm

Theo thông báo chính thức, AGMAI được thành lập nhằm tư vấn cho các công ty AI về cách tương tác với nghiên cứu toán học và cộng đồng toán học, bao gồm cả việc trình bày và công bố các kết quả toán học một cách có trách nhiệm.

Nhóm hướng tới mục tiêu bảo vệ lợi ích tốt nhất cho toán học và cộng đồng toán học, đồng thời đóng vai trò như một kênh liên lạc giữa các nhà toán học và ngành công nghiệp AI. Đây là một bước đi quan trọng trong bối cảnh các mô hình AI ngày càng có khả năng giải quyết các bài toán phức tạp, đặt ra câu hỏi về vai trò của con người trong nghiên cứu toán học tương lai.

Nguyên tắc độc lập và minh bạch

Một trong những điểm đáng chú ý nhất của AGMAI là tính độc lập hoàn toàn khỏi mọi công ty AI. Các thành viên tham gia nhóm không nhận thù lao cho công việc này.

"Chúng tôi sẽ công bố các khuyến nghị của mình cho các công ty AI trên trang web này. Chúng tôi sẵn sàng đưa ra khuyến nghị cho bất kỳ công ty AI nào có mô hình có khả năng tác động đáng kể đến toán học."

Nhóm nhấn mạnh rằng họ không có quyền quyết định tại bất kỳ công ty AI nào. Trách nhiệm cho các quyết định cuối cùng thuộc về chính công ty đó. Đây là một cơ chế quan trọng để đảm bảo tính khách quan và trách nhiệm giải trình.

Thành viên sáng lập

Nhóm quy tụ nhiều tên tuổi lớn trong làng toán học thế giới:

• François Charles (ENS-PSL)
• Camillo De Lellis (IAS, GSSI)
• Timothy Gowers (Collège de France, Cambridge) — người từng đoạt Huy chương Fields
• Martin Hairer (EPFL, Imperial College London) — chủ nhân Huy chương Fields
• Nikhil Srivastava (Berkeley, Viện Simons)
• Ulrike Tillmann (Oxford, INI)
• Ravi Vakil (Stanford)
• Edward Witten (IAS) — nhà vật lý lý thuyết nổi tiếng, chủ nhân Huy chương Fields
• Melanie Matchett Wood (Harvard)

Đáng chú ý, nhóm này được hình thành sau khi OpenAI tiếp cận một số thành viên để đề xuất thành lập một ban cố vấn bên ngoài. Thay vì trở thành một bộ phận của OpenAI, họ quyết định thành lập một nhóm độc lập và mời thêm các thành viên khác tham gia.

Thách thức trước mắt

Nhiệm vụ cụ thể và cấp bách nhất hiện nay của AGMAI là cố vấn cho OpenAI về cách điều phối việc công bố một số lượng lớn các kết quả toán học có ý nghĩa. Theo OpenAI, những kết quả này được tạo ra bởi mô hình nội bộ của họ.

Điều này đặt ra những câu hỏi quan trọng:

• Làm thế nào để xác minh tính đúng đắn của các kết quả toán học do AI tạo ra?
• Ai sẽ được ghi công cho những phát hiện này?
• Làm thế nào để đảm bảo quá trình công bố không gây tổn hại đến cộng đồng toán học?
• Liệu việc công bố ồ ạt có ảnh hưởng đến tiến trình nghiên cứu truyền thống?

Ý nghĩa đối với cộng đồng công nghệ

Sự ra đời của AGMAI phản ánh một xu hướng quan trọng trong ngành công nghệ toàn cầu: khi AI ngày càng mạnh mẽ, nhu cầu về các cơ chế quản trị độc lập và có trách nhiệm cũng tăng theo.

Đối với cộng đồng công nghệ và nghiên cứu tại Việt Nam, sự kiện này mang lại nhiều bài học quý giá. Khi các trường đại học và viện nghiên cứu Việt Nam bắt đầu ứng dụng AI vào nghiên cứu khoa học cơ bản, việc thiết lập các chuẩn mực đạo đức và quy trình kiểm chứng sẽ trở nên thiết yếu. Các nhà nghiên cứu Việt Nam cũng có thể tham gia đóng góp ý kiến cho AGMAI thông qua biểu mẫu trực tuyến mà nhóm đã công bố.

Nhóm đang kêu gọi cộng đồng toán học toàn cầu chia sẻ ý kiến về câu hỏi này. Các phản hồi sẽ được sử dụng để định hình khuyến nghị của nhóm và sẽ không được công bố công khai nếu không có sự chấp thuận của người gửi.