Các chuyên gia AI muốn công khai nghiên cứu rủi ro cao

Nhiều phòng thí nghiệm AI hàng đầu tin rằng cách tốt nhất để giữ các mô hình không trở nên hỗn loạn là khóa chặt chúng trong phòng lab. Chỉ một số ít người được chọn mới có quyền truy cập, nhờ đó chúng ít gây thiệt hại ngoài thực tế trong khi các nhà nghiên cứu tìm hiểu khả năng của chúng. Nathan Lambert và Tom Zick, hai nhà khoa học trong ngành, lại nghĩ ngược lại. Họ thành lập Trillium Labs — một tổ chức phi lợi nhuận — để nghiên cứu AI theo hướng minh bạch hơn, kể cả ở những lĩnh vực đầy rủi ro như tự cải thiện đệ quy (RSI) và tác tử (agent).

Minh bạch thay vì bí mật

Trillium Labs sẽ công bố chi tiết các thí nghiệm để các nhà khoa học bên ngoài có thể nghiên cứu và tái tạo chúng. Lambert cho rằng cách các phòng lab hàng đầu giữ bí mật công trình của mình làm giảm khả năng của cộng đồng trong việc xem xét phản biện và đóng góp phương pháp mới. Ông tin rằng để chuyên gia bên ngoài thấy cách mô hình được xây dựng và tinh chỉnh có thể là yếu tố then chốt để giảm thiểu rủi ro.

"Trong vài thiên niên kỷ qua, nhân loại đã có phương pháp khoa học trong hộp công cụ để giảm thiểu tác hại và xây dựng tương lai tốt đẹp hơn. Quỹ đạo phát triển AI khép kín hiện nay đang khiến chúng ta lùi một bước."

Các mô hình mạnh nhất thế giới, như của OpenAI và Anthropic, chỉ có thể truy cập qua ứng dụng hoặc API — thường đi kèm với việc thiếu minh bạch về cách mô hình được xây dựng và vận hành.

Hai thái cực trong ngành

Một số công ty khác, đặc biệt ở Trung Quốc, cung cấp mô hình mạnh có thể tải về và chạy trên phần cứng của người dùng. Xiaomi gần đây đã công bố chi tiết trực tiếp về một lần huấn luyện lớn với một trong các mô hình của mình. Các nhà nghiên cứu tại Stanford cũng đang tiền huấn luyện mô hình AI Marin một cách công khai.

Ngành công nghiệp đang tranh đấu về chiến lược nào tốt hơn, phần lớn vì các mô hình hàng đầu ngày càng mạnh. Chúng có thể tự động phát hiện lỗ hổng phần mềm mới, tự thăm dò và xâm nhập hệ thống, và những vụ hack nổi bật gần đây khiến vấn đề càng bị soi xét.

Phe ủng hộ hệ thống truy cập hạn chế cho rằng cần giữ sức mạnh đó trong tay một số ít người đáng tin cậy. Phe của Lambert và Zick tin rằng hiểu biết chung về rủi ro sẽ tốt hơn cho tất cả.

Kinh nghiệm của những người sáng lập

Lambert từng làm việc tại Ai2 — phòng lab theo đuổi cách tiếp cận AI cởi mở bất thường, bao gồm công bố chi tiết dữ liệu và phương pháp huấn luyện. Ông cũng từng làm tại Hugging Face, điều hành một blog kỹ thuật nổi tiếng và sáng lập American Truly Open Models, nhằm khuyến khích các công ty Mỹ phát hành nhiều mô hình mở hơn. Zick từng làm tại Đại học Harvard và giúp Charles Schwab xây dựng chính sách về "AI có trách nhiệm".

Hai người gặp nhau qua Zoom trong đại dịch COVID-19, khi cả hai đang là nghiên cứu sinh tại UC Berkeley. Họ nảy ra ý tưởng về tổ chức phi lợi nhuận sau khi thấy nghiên cứu AI trong ngành ngày càng tách rời khỏi giới học thuật; giáo sư và sinh viên thường không thể tái tạo công trình bên trong các phòng lab lớn vì thiếu nguồn lực.

Trọng tâm nghiên cứu

Trillium Labs ra mắt hôm nay, ban đầu tập trung vào hậu huấn luyện (post-training) — tinh chỉnh các mô hình lớn sau khi đã xây dựng. Một lĩnh vực then chốt khác là RSI, quy trình phát triển mô hình mới bằng cách để AI đóng góp vào nghiên cứu. Viễn cảnh tiến bộ không ngừng có thể dẫn đến mất kiểm soát đã khiến nhiều nhà nghiên cứu AI lo ngại. Vấn đề này thu hút sự chú ý rộng rãi hồi đầu tháng khi một nhà nghiên cứu của Anthropic rời công ty và cảnh báo RSI có thể là mối đe dọa hiện hữu với nhân loại.

Tổ chức cũng sẽ nghiên cứu cách học tăng cường (reinforcement learning) — thưởng cho kết quả tốt và phạt kết quả xấu — có thể cải thiện năng lực mô hình. Cách tiếp cận này khiến các tác tử mạnh hơn nhưng cũng dễ làm những điều bất ngờ. Họ sẽ tìm hiểu cách học tăng cường định hình tính cách và hành vi mô hình, chẳng hạn khi mô hình trở nên xu nịnh quá mức.

"Để hiểu điều gì đó như cách học tăng cường mở rộng quy mô trong hậu huấn luyện, bạn cần lượng tính toán đáng kể và nhiều thí nghiệm cẩn thận. Việc công bố chi tiết về các lần huấn luyện tăng cường có thể mang lại những hiểu biết bất ngờ khi nhà nghiên cứu bên ngoài xem xét."

Nguồn lực và kỳ vọng

Phòng lab đã huy động được khoản tiền không tiết lộ từ Schmidt Sciences, Halcyon Futures và một số tổ chức khác. Những người sáng lập cho biết họ đặt mục tiêu huy động 40 đến 100 triệu USD, dự kiến chi 30 triệu USD cho huấn luyện trong 18 tháng tới.

Tim Fist, giám đốc chính sách công nghệ mới nổi tại Institute for Progress, bày tỏ: "Tôi rất ủng hộ việc minh bạch hơn nhiều so với hiện tại trong R&D."

Lambert và Zick cuối cùng hy vọng Trillium Labs sẽ đóng góp góc nhìn cần thiết cho cuộc thảo luận rộng lớn hơn về cách xây dựng AI tốt nhất.

"Chúng ta đang ở thời đại mà diễn ngôn về AI bị chi phối bởi một vài quan điểm. Chúng tôi tin rằng phương pháp khoa học và đo lường cẩn thận là cách tốt nhất để hiểu những hành vi mới của mô hình AI."

Đối với độc giả Việt Nam, câu chuyện này đáng chú ý khi các doanh nghiệp và nhà nghiên cứu trong nước ngày càng tham gia sâu vào AI. Việc tiếp cận công khai các mô hình mạnh có thể mở ra cơ hội học hỏi, tái tạo và đóng góp cho cộng đồng AI khu vực, đồng thời đặt ra yêu cầu về trách nhiệm và hiểu biết rủi ro khi triển khai công nghệ này.