OpenAI lập hội đồng cố vấn toán học để tránh 'vết xe đổ'

OpenAI vừa công bố một hội đồng cố vấn độc lập gồm các nhà toán học hàng đầu, với mục tiêu giải quyết những tranh cãi xung quanh cách công ty này công bố các kết quả toán học do AI tạo ra. Động thái diễn ra sau một loạt bê bối truyền thông khiến uy tín của OpenAI trong giới học thuật bị tổn hại nghiêm trọng.

Hội đồng cố vấn toán học của OpenAI gây nhiều tranh cãi trong giới nghiên cứu

Hội đồng gồm những ai?

Nhóm có tên Advisory Group on Mathematics and Artificial Intelligence (AGMAI) gồm chín thành viên, được giới nghiên cứu mô tả là những "ngôi sao" của ngành toán. Họ đến từ các tổ chức danh giá như Stanford, Harvard, Oxford và Cambridge, trong đó nhiều người từng đoạt Huy chương Fields và giải MacArthur "thiên tài".

Hội đồng sẽ được đặt trụ sở tại Viện Nghiên cứu Cao cấp (IAS) ở Princeton, New Jersey — một trong những trung tâm toán học danh tiếng nhất thế giới, từng là nơi làm việc của Albert Einstein, John von Neumann và J. Robert Oppenheimer.

Theo OpenAI, nhóm sẽ hoạt động độc lập, có quyền đưa ra lời khuyên mà công ty không yêu cầu, công khai bình luận về tác động của AI lên toán học và công bố các khuyến nghị của mình. Các thành viên không nhận thù lao từ OpenAI và có thể thay đổi thành phần hội đồng nếu thấy cần thiết.

Mục tiêu và phạm vi hoạt động

OpenAI cho biết AGMAI sẽ tập trung vào việc đánh giá và truyền thông các kết quả toán học mới. Cụ thể, hội đồng sẽ giúp công ty đánh giá tầm quan trọng của các phát hiện, tư vấn cách phối hợp công bố, và đề xuất các tiêu chuẩn học thuật, chuyên môn trong nghiên cứu toán học.

Ngoài ra, nhóm cũng sẽ cố vấn về cách các công cụ AI có thể hỗ trợ nghiên cứu và học tập toán học. Để hoàn thành nhiệm vụ, các thành viên dường như sẽ được truy cập sớm vào các nghiên cứu nội bộ của OpenAI.

"Giá trị của nhóm phụ thuộc vào việc các thành viên có thể đưa ra phán đoán riêng và thách thức quan điểm của chúng tôi hay không." — OpenAI

Những hoài nghi từ giới toán học

Dù được quảng bá là độc lập, nhiều nhà nghiên cứu vẫn đặt câu hỏi về mức độ ảnh hưởng thực sự của hội đồng cũng như lý do nó ra đời.

Simon Machado, nhà nghiên cứu tại ETH Zurich (Thụy Sĩ), cho rằng toàn bộ sự việc dường như "được bao phủ trong bí ẩn" và đặt nghi vấn về cách chín thành viên được lựa chọn. Trang web sơ khai của nhóm chỉ ghi rằng họ "đã tập hợp sau khi OpenAI tiếp cận một số thành viên về việc thành lập một ban cố vấn bên ngoài", nhưng không rõ ai được tiếp cận ban đầu và những người còn lại được chọn như thế nào.

Francesco Fournier-Facio, giáo sư toán học sắp nhận chức tại Đại học Heriot-Watt (Scotland), nói rằng ông cảm thấy "lưỡng lự" về hội đồng này. Ông cho rằng việc hợp tác nhiều hơn với các nhà toán học "chỉ có thể khiến mọi thứ tốt hơn", nhưng đặt câu hỏi liệu nhóm này có thực sự đại diện cho cộng đồng đang bị ảnh hưởng bởi tham vọng giành "cúp" toán học của OpenAI hay không.

"Nó giống như một tòa tháp ngà." — Francesco Fournier-Facio

Machado cũng đặt câu hỏi liệu các thành viên có thực sự hiểu được những lo ngại của cộng đồng toán học rộng lớn hơn khi nói về AI hay không. Ông nhận xét: "Họ là những nhà toán học tuyệt vời, nhưng tôi không chắc họ là những người tôi muốn đại diện cho mình trong các câu hỏi mang tính chính trị hơn."

Thách thức lớn nhất còn ở phía trước

Martin Hairer, thành viên hội đồng và là giáo sư tại Imperial College London kiêm EPFL, đã lên tiếng phản hồi về những gì ông gọi là "cơn bão thông tin sai lệch" xung quanh sự hình thành của nhóm.

Ông thừa nhận AI đã có tác động sâu sắc đến nghiên cứu toán học và đặt ra nhiều câu hỏi về ghi công ý tưởng, quyền ưu tiên và sự hiểu biết của con người. Hairer cho rằng cộng đồng không nên "vùi đầu như đà điểu" và từ chối đối thoại với các phòng thí nghiệm AI.

Ông cũng nhấn mạnh rằng dù nhóm được thành lập sau khi OpenAI tiếp cận, tổ chức này "thực sự độc lập với OpenAI và bất kỳ phòng thí nghiệm AI 'biên giới' nào khác". Các thành viên không ký thỏa thuận hạn chế nào ngoài các yêu cầu bảo mật thông thường và không nhận thù lao.

Tuy nhiên, thách thức lớn nhất có lẽ vẫn đang chờ phía trước. Khi công bố hội đồng, OpenAI tiện thể tiết lộ rằng mô hình chưa phát hành của họ — cùng mô hình đã giải được bài toán thiên niên kỷ Navier-Stokes — nay đã "giải quyết hơn 100 bài toán mở lâu đời trên hầu hết các lĩnh vực toán học".

Nhóm AGMAI thừa nhận đây là ưu tiên đầu tiên của họ: cố vấn cho OpenAI cách phối hợp công bố một lượng lớn kết quả toán học quan trọng mà mô hình nội bộ của công ty báo cáo đã tạo ra. Hairer cảnh báo rằng các thành viên sẽ "rất ngây thơ nếu tin rằng các phòng thí nghiệm AI sẽ không xoay chuyển bất cứ điều gì chúng tôi nói theo hướng có lợi cho bộ máy PR của họ".

Bài học từ quá khứ

Việc thành lập hội đồng này phần nào là sự thừa nhận thảm họa truyền thông mà OpenAI gây ra trước đó. Công ty từng bị cáo buộc "cướp công" các nhà nghiên cứu, không ghi công cho công trình của con người mà mô hình của họ dựa vào, thậm chí bị cho là đánh cắp từ chính những người dùng mô hình của mình.

Những tranh cãi này khiến nhiều nhà toán học tự hỏi liệu OpenAI có thực sự hiểu — hay thậm chí tôn trọng — ngành học và cộng đồng mà họ đã xâm nhập.

Kevin Buzzard, giáo sư toán học tại Imperial College London, thắc mắc tại sao OpenAI lại cần một hội đồng tinh hoa như vậy để hiểu cộng đồng muốn gì. "Đó không phải là chứng minh các định lý khó, mà là hiểu rõ hơn về chủ đề của chúng ta," ông nói. "Tôi không hoàn toàn chắc rằng bạn cần một ủy ban gồm những người xuất sắc để nhấn mạnh điểm đó."

Liệu hội đồng có thể giành được lòng tin của giới toán học hay không sẽ quyết định mức độ hiệu quả của nó trong việc kiểm soát hậu quả từ những sai lầm gần đây của OpenAI — và quan trọng hơn, trong việc giảm nhẹ cú sốc cho bất cứ điều gì công ty này đang chuẩn bị công bố tiếp theo.