Google DeepMind thành lập viện nghiên cứu mở rộng tranh luận về AGI

Google và các nhà nghiên cứu của Google DeepMind vừa chính thức ra mắt DeepMind Institute, một viện nghiên cứu mới với mục tiêu thúc đẩy các cuộc tranh luận cởi mở xung quanh trí tuệ nhân tạo tổng quát (AGI). Đây được xem là bước đi nhằm đưa những câu hỏi hóc búa nhất về tương lai của AI ra ánh sáng công chúng, thay vì chỉ bàn thảo trong nội bộ các phòng thí nghiệm.

Ban lãnh đạo và mục tiêu của viện

Viện do ba giám đốc điều hành: Shane Legg — đồng sáng lập DeepMind, James Manyika — lãnh đạo cấp cao của Google, và Demis Hassabis — chủ tịch Google DeepMind. Trong đó, Legg đảm nhận vai trò tổng biên tập.

Theo thông báo chính thức, viện hướng tới việc bộc lộ những quan điểm khác biệt giữa Google, Google DeepMind và cộng đồng nghiên cứu toàn cầu về AGI. Thông báo nhấn mạnh:

"Họ sẽ không phải lúc nào cũng đồng thuận, và nhiều khả năng sẽ còn thay đổi quan điểm khi dữ liệu và thông tin mới xuất hiện ở vùng biên không ngừng dịch chuyển."

Điều này cho thấy viện không tìm cách áp đặt một tiếng nói chung, mà khuyến khích sự đa dạng trong góc nhìn — một cách tiếp cận phù hợp với tính bất định vốn có của lĩnh vực AI tiên tiến.

Bốn bài luận mở màn

Bộ sưu tập đầu tiên gồm bốn bài luận trải rộng nhiều chủ đề:

• Chính sách kinh tế nhằm ứng phó với những gián đoạn tiềm tàng do AGI gây ra
• Bảo tồn khả năng suy luận của mô hình dưới dạng con người có thể đọc hiểu
• Các nguyên tắc hướng tới sự phồn thịnh của con người
• Khung đánh giá cho các mô hình AI tiên tiến nhất

Đáng chú ý, bài luận của hai nhà nghiên cứu an toàn Rohin Shah và Anca Dragan lập luận rằng "cửa sổ minh bạch" đang thu hẹp của AI — tức khả năng nhìn thấy và kiểm tra từng bước suy luận của mô hình — không phải là điều không thể tránh khỏi. Khi các kiến trúc mới khiến những mô hình mạnh nhất trở nên khó giám sát hơn, nhóm tác giả cho rằng cả nhà phát triển lẫn cơ quan quản lý cần đối diện trực tiếp với các đánh đổi an toàn.

Cụ thể, họ đề xuất có thể giới hạn "độ sâu tuần tự mờ đục" — lượng tính toán liên tiếp mà một mô hình có thể thực hiện mà không tạo ra dấu vết suy luận đọc được — hoặc yêu cầu nhà phát triển chứng minh rằng những hệ thống kém minh bạch hơn vẫn giữ nguyên mức độ có thể giám sát.

Đề xuất cơ quan tiêu chuẩn do Mỹ dẫn dắt

Trong một bài luận khác, Demis Hassabis đề xuất thành lập một cơ quan tiêu chuẩn AI tiên tiến do Mỹ dẫn dắt để đánh giá những mô hình mạnh nhất. Theo khung đề xuất của ông:

• Ban đầu, nhà phát triển tự nguyện nộp mô hình để thẩm định tối đa 30 ngày trước khi phát hành
• Sau khi hệ thống đánh giá chứng minh được hiệu quả, việc vượt qua các bài kiểm tra có thể trở thành điều kiện bắt buộc để triển khai mô hình tiên tiến tại Mỹ

Cơ quan này ban đầu sẽ thiết kế các bài đánh giá có tham vấn với các công ty AI, nhưng về lâu dài sẽ phát triển những bài kiểm tra độc lập, không công bố — gọi là các bài "held-out" — nhằm ngăn các phòng thí nghiệm "may đo" mô hình theo những tiêu chí đã biết trước.

Hassabis cho biết khung này có thể được "siết chặt nếu mức độ nghiêm trọng của tình hình đòi hỏi", thậm chí bao gồm cả khả năng phối hợp làm chậm tốc độ phát triển giữa các nhà phát triển AI tiên tiến.

Bối cảnh và ý nghĩa

Những bài luận này ra đời đúng lúc cuộc tranh luận về an toàn AI đang chuyển hướng từ những tuyên bố lo ngại chung chung sang các đề xuất cụ thể về công bố thông tin, giám sát từ bên ngoài và — nếu các biện pháp bảo vệ bị bỏ lại phía sau — phối hợp làm chậm tốc độ phát triển.

Xu hướng này càng rõ rệt trong tuần khi nhiều lãnh đạo ngành ủng hộ một phần lời kêu gọi của CEO Anthropic Dario Amodei về việc "điều tiết nhịp độ" phát triển AI tiên tiến.

Đối với độc giả Việt Nam, động thái này đáng chú ý ở hai điểm. Thứ nhất, các cuộc thảo luận quản trị AI toàn cầu đang dần hình thành chuẩn mực cụ thể — điều sẽ ảnh hưởng tới cách các doanh nghiệp và nhà phát triển Việt Nam tiếp cận mô hình AI tiên tiến trong tương lai. Thứ hai, sự xuất hiện của những viện nghiên cứu mở như DeepMind Institute cho thấy tài liệu tham khảo chất lượng cao đang ngày càng dễ tiếp cận, tạo điều kiện để cộng đồng công nghệ trong nước bắt kịp các chuẩn mực quốc tế về an toàn và minh bạch AI.