Startup 650 triệu USD của Richard Socher: Khi AI tự cải thiện bản thân vô tận

Richard Socher đã là một gương mặt quen thuộc trong lĩnh vực trí tuệ nhân tạo (AI), nổi tiếng nhất với vai trò người sáng lập startup chatbot sớm You.com và các công trình nghiên cứu trước đó trên ImageNet. Giờ đây, ông đang gia nhập thế hệ các startup AI tập trung vào nghiên cứu với Recursive Superintelligence, một công ty có trụ sở tại San Francisco vừa bước ra khỏi bóng tối vào thứ Tư với vòng gọi vốn 650 triệu USD.

Socher không đơn độc trong dự án mới này. Ông cùng bắt tay với một nhóm các nhà nghiên cứu AI hàng đầu, bao gồm Peter Norvig và Tim Shi - đồng sáng lập Cresta. Họ đang cùng nhau làm việc để tạo ra một mô hình AI có khả năng tự cải thiện đệ quy (recursively self-improving). Đây là một hệ thống có thể tự chủ xác định điểm yếu của chính nó và thiết kế lại để khắc phục những điểm đó mà không cần sự can thiệp của con người — một mục tiêu được coi là "chén thánh" trong nghiên cứu AI hiện đại.

Trong một cuộc phỏng vấn qua Zoom sau buổi ra mắt, chúng tôi đã đi sâu vào cách tiếp cận kỹ thuật độc đáo của Recursive và lý do tại sao ông không coi dự án mới này là một "neo-lab" — thuật ngữ chỉ thế hệ startup AI mới ưu tiên nghiên cứu hơn là xây dựng sản phẩm.

Cách tiếp cận độc đáo: Tính mở và tự cải thiện

Khi được hỏi về cách tiếp cận độc đáo của mình giữa vô số các phòng thí nghiệm hiện nay, Socher chia sẻ:

"Cách tiếp cận độc đáo của chúng tôi là sử dụng tính mở (open-endedness) để đạt được sự tự cải thiện đệ quy, điều mà chưa ai thực hiện được. Nhiều người giả định rằng điều này xảy ra khi bạn chỉ thực hiện tự động hóa nghiên cứu. Bạn có thể lấy AI và yêu cầu nó cải thiện một cái gì đó khác, có thể là một hệ thống học máy, hoặc một bức thư bạn viết... Nhưng đó không phải là tự cải thiện đệ quy. Đó chỉ là cải thiện thông thường."

Ông nhấn mạnh trọng tâm chính là xây dựng siêu trí tuệ tự cải thiện đệ quy thực sự ở quy mô lớn. Điều này có nghĩa là toàn bộ quá trình từ lên ý tưởng, triển khai đến xác minh các ý tưởng nghiên cứu sẽ diễn ra hoàn toàn tự động.

Ban đầu, hệ thống sẽ tự động hóa các ý tưởng nghiên cứu AI, sau đó là mọi loại ý tưởng nghiên cứu, và thậm chí mở rộng sang các lĩnh vực vật lý. Tuy nhiên, sức mạnh thực sự nằm ở việc AI làm việc trên chính nó, phát triển một dạng nhận thức tự thân mới về những thiếu sót của bản thân.

Tính mở và Rainbow Teaming

Về thuật ngữ "open-endedness" (tính mở), Socher giải thích rằng nó có ý nghĩa kỹ thuật cụ thể. Tim Rocktäschel, một trong những đồng sáng lập, từng dẫn dắt các nhóm về tính mở và tự cải thiện tại Google DeepMind và đặc biệt làm việc trên mô hình thế giới Genie 3.

Bạn có thể nói cho Genie 3 bất kỳ khái niệm, thế giới hoặc tác nhân nào, và nó sẽ tạo ra nó một cách tương tác. Socher so sánh quá trình này với sự tiến hóa sinh học: động vật thích nghi với môi trường, và các loài khác lại thích nghi ngược lại với sự thích nghi đó. Quá trình này có thể diễn ra hàng tỷ năm và tạo ra những điều thú vị, giống như cách chúng ta phát triển ra đôi mắt.

Một ứng dụng thú vị khác của khái niệm này là "rainbow teaming" (đội cầu vồng), xuất phát từ một bài báo khác của Tim. Trong an ninh mạng, "red teaming" (đội đỏ) là việc cố tình tấn công hệ thống để tìm lỗ hổng. Với AI, thay vì con người ngồi hàng giờ để tìm cách khiến AI nói những điều xấu, bạn có thể dùng một AI thứ hai để tấn công AI thứ nhất.

"Bạn thực sự có thể cho phép hai AI cùng tiến hóa. Một bên liên tục tấn công bên kia, sau đó tìm ra không chỉ một góc độ mà nhiều góc độ khác nhau, hence the rainbow analogy (tương tự như hình ảnh cầu vồng). Sau đó bạn có thể 'tiêm chủng' cho AI đầu tiên và nó sẽ ngày càng an toàn hơn."

Ý tưởng này hiện đã được các phòng thí nghiệm lớn áp dụng.

Sản phẩm và Tương lai của Tính toán

Khi được hỏi về thời điểm hoàn thành, Socher thừa nhận một số thứ sẽ không bao giờ hoàn thiện vì trí thông minh luôn có thể cải thiện thêm. Tuy nhiên, ông bác bỏ ý kiến cho rằng Recursive chỉ là một "neo-lab".

"Tôi đôi khi hơi gặp khó khăn với danh mục neo-lab này. Tôi cảm thấy chúng tôi không chỉ là một phòng thí nghiệm. Tôi muốn chúng tôi trở thành một công ty thực sự khả thi, với những sản phẩm tuyệt vời mà mọi người yêu thích sử dụng và mang lại tác động tích cực cho nhân loại."

Ông cho biết nhóm đã đạt được nhiều tiến triển và có thể rút ngắn thời gian dự kiến. Sản phẩm đầu tiên sẽ xuất hiện trong vài quý tới, chứ không phải vài năm.

Cuối cùng, về vấn đề tài nguyên tính toán (compute), Socher cho rằng đây là yếu tố then chốt. Trong tương lai, câu hỏi quan trọng sẽ là: Nhân loại muốn chi bao nhiêu tài nguyên tính toán để giải quyết vấn đề nào? Đó là ung thư hay virus? Việc phân bổ nguồn lực này sẽ trở thành một trong những câu hỏi lớn nhất thế giới.