OpenAI lại khiến giới toán học phẫn nộ

OpenAI đang chuẩn bị tung ra hơn 100 lời giải cho những bài toán mở, động thái được cho là sẽ làm dấy lên làn sóng phẫn nộ mới trong giới toán học. Sự việc phản ánh căng thẳng ngày càng tăng giữa các phòng thí nghiệm AI và cộng đồng nghiên cứu khoa học khi các mô hình tiên tiến ngày càng chứng tỏ năng lực vượt trội.

Lời hứa bị lãng quên

Vào tháng 8, OpenAI đã triệu tập khoảng 40 nhà toán học để thảo luận về việc cần làm nếu AI vượt qua con người trong lĩnh vực này. Theo những người tham dự, công ty ám chỉ rằng các mô hình mạnh mẽ của họ đã giải được hàng trăm bài toán tồn đọng lâu đời, nhưng đại diện công ty cam kết sẽ không công bố tất cả lời giải cùng lúc.

Người phát ngôn OpenAI Lindsay McCallum cho biết công ty "không biết" về cam kết này. Lo ngại trước phản ứng của cộng đồng, OpenAI đã xin lời khuyên về cách công bố kết quả.

Bryna Kra, nhà toán học tại Đại học Northwestern, nhớ lại cuộc họp diễn ra với "cảm xúc lẫn lộn giữa phấn khích và lo sợ". Nhóm tham dự đã đề nghị công ty không chỉ đăng kết quả trên blog hay mạng xã hội như cách họ làm với 10 bài toán trước đó. Thay vào đó, OpenAI nên công bố các bài báo khoa học để giới toán học có thể tiếp thu, tiêu hóa và sử dụng kết quả.

"Rõ ràng là ý kiến đóng góp đó đã bị phớt lờ", Kra nói.

Theo các nguồn tin, OpenAI dự định đăng tải hàng trăm kết quả được đề cập trong cuộc họp tháng 8 lên GitHub. Đây sẽ là đợt công bố mới nhất trong hàng chục nghìn lời giải toán học do AI tạo ra trong năm nay.

Cáo buộc "hành xử kiểu xã hội đen"

Với nhiều nhà toán học hàng đầu, động thái sắp tới cho thấy OpenAI chẳng học được gì từ những tranh cãi trước đó. Họ cảm thấy lĩnh vực toán học đã trở thành sân chơi để OpenAI và đối thủ Anthropic phô diễn mô hình, trong bối cảnh cả hai đang chuẩn bị cho các đợt IPO lớn.

Trong lúc ganh đua, các quy trình khoa học truyền thống về công bố và ghi nhận công lao đã bị gạt sang một bên.

Trường hợp gây chấn động nhất xảy ra vào tháng 9. OpenAI triển khai hàng nghìn tác nhân AI để giải một bài toán Millennium trị giá một triệu USD, sau khi nghe "tin đồn" rằng đối thủ đang tiến gần lời giải. Tristan Buckmaster, giáo sư tại Đại học New York, cáo buộc công ty đã "cướp công" nghiên cứu mà ông thực hiện cùng Levent Alpöge, nhân viên Anthropic.

Trong một cuộc đàm phán về quyền ghi công, Buckmaster cho rằng nhà nghiên cứu OpenAI Sébastien Bubeck ám chỉ nên loại Alpöge khỏi bài báo vì điều đó "phức tạp". Bubeck đã phủ nhận yêu cầu này trong một tuyên bố công khai trước đó.

Theo biên bản cuộc họp mà WIRED tiếp cận, Bubeck còn tỏ ý rằng Buckmaster sẽ tự hủy hoại sự nghiệp nếu tiết lộ với báo chí rằng OpenAI đã đánh cắp công trình của ông.

"Nếu anh không muốn tôi tử tế, thì tôi không cần phải tử tế", Bubeck được cho là đã nói.

Nestor Guillen, giáo sư toán học thỉnh giảng tại NYU, nhận xét: "Có một cảm giác rằng các công ty AI đang hành xử như xã hội đen". McCallum phản bác: "Chúng tôi không đồng ý với cách mô tả đó".

Vấn đề nằm ở sự tập trung quyền lực

Giới toán học không chỉ lo ngại về AI, mà còn về chính các công ty AI. Vào giữa tháng 9, OpenAI đã lập một nhóm cố vấn nhằm xác định cách đánh giá, truyền đạt kết quả mới, duy trì chuẩn mực học thuật và xây dựng công cụ hỗ trợ nghiên cứu toán học.

Tuy nhiên, các nhà toán học cho rằng công ty chưa đạt được tiến bộ đáng kể.

Nhiều người bức xúc vì OpenAI và Anthropic vẫn công bố kết quả qua blog thay vì bài báo khoa học, khiến việc kiểm chứng khó khăn và thường bỏ qua công trình trước đó của các nhà toán học khác.

"Toán học qua tweet và qua thông cáo báo chí, theo tôi, không phải cách nuôi dưỡng hệ sinh thái đã tạo ra mảnh đất màu mỡ cho họ huấn luyện", Kra nói.

Để đối phó với làn sóng chứng minh do máy hỗ trợ, cộng đồng đã thiết lập các công cụ mới như Hexagon, kho lưu trữ tài liệu chủ yếu do AI tạo ra, và Palomar, hệ thống đăng ký các công trình toán học được máy kiểm chứng. Dù OpenAI được khuyến khích trực tiếp sử dụng các công cụ này, Kra cho biết "họ vẫn không thay đổi hành vi".

Cô cũng cảm thấy hành động của công ty không phù hợp với Tuyên bố Leiden, lời kêu gọi của hơn 4.000 nhà toán học yêu cầu các công ty AI tuân thủ chuẩn mực của giới, mà cô là một trong những người soạn thảo.

Theo các nguồn tin, một số nhân viên OpenAI tin rằng công nghệ của họ đã khiến toán học "chết" theo nghĩa truyền thống. McCallum phản hồi: "Chúng tôi không tin tương lai của toán học đã được định đoạt. Chúng tôi đang hợp tác với cộng đồng toán học để cùng định hướng tương lai".

Cơ hội và nỗi sợ đan xen

Bubeck được cho là tin rằng công nghệ của công ty sẽ sớm chấm dứt sự nghiệp của phần lớn nhà toán học. Ông nói với WIRED rằng AI có năng lực hơn có thể giúp các nhà toán học giải quyết câu hỏi tham vọng hơn, kết nối công trình với thách thức thực tế và làm toán học dễ tiếp cận hơn.

"Tôi thấy đây là cơ hội để mở rộng những gì các nhà toán học có thể làm và tác động mà công trình của họ có thể mang lại", Bubeck nói.

Các nhà toán học hiểu rằng họ cần thích nghi, đặc biệt là trang bị cho thế hệ trẻ, nhưng họ không tin lĩnh vực của mình đã chết.

"Nó thay đổi cách chúng ta vận hành, nhưng tôi nghĩ đây là thời điểm để chúng ta nghĩ lớn hơn", Kra nói.

Bà vui mừng có một công cụ mạnh mẽ mới để giải toán, nhưng chỉ mong các công ty minh bạch hơn để bà có thể tin tưởng và xây dựng tiếp trên kết quả đó.

"Đây là thời điểm đáng sợ, nhưng cũng thực sự rất thú vị."