Kỷ nguyên hậu AGI: Khi trí tuệ nhân tạo vượt qua giới hạn và tái định hình tổ chức

AGI đã đến. Hay chính xác hơn, máy móc giờ đây có thể lập luận xuyên lĩnh vực, thích ứng với những bài toán lạ và thực hiện các tác vụ phức tạp với mức độ tự chủ đáng kể.

Điều này không có nghĩa AI đã trở nên hoàn hảo, siêu việt một cách phổ quát, hay trí tuệ đã đạt tới một trạng thái cuối cùng nào đó. AGI nên được hiểu như một ngưỡng về tính tổng quát và tự chủ. Điều khiến việc vượt qua ngưỡng này trở nên quan trọng không chỉ nằm ở việc AI trở nên giỏi hơn, mà ở chỗ nó cho phép chúng ta đặt một câu hỏi mang tính nền tảng khác về cách công việc và tổ chức nên được thiết kế.

Nghịch lý giữa năng lực mô hình và tốc độ ứng dụng kinh tế

Phản biện tức thời cho nhận định trên là: nếu AGI đã đến, đâu là những thay đổi kinh tế và xã hội to lớn lẽ ra phải đi kèm?

Câu trả lời nằm ở chỗ năng lực của mô hình và mức độ ứng dụng kinh tế đang chạy trên những chiếc đồng hồ rất khác nhau. AI đã bắt đầu ảnh hưởng thực chất tới năng suất, công việc, chi tiêu vốn và toàn bộ các ngành công nghiệp xoay quanh chất bán dẫn và trung tâm dữ liệu. Nhưng phần lớn tổ chức vẫn đang sử dụng những hệ thống này thông qua một khuôn khổ về cơ bản là tiền-AGI, với AI đóng vai trò công cụ giúp con người làm công việc hiện có tốt hơn.

Một phần sự nhầm lẫn cũng đến từ chính khái niệm AGI. Trong lịch sử, thuật ngữ này ám chỉ một cách rộng rãi trí tuệ có khả năng hoạt động xuyên lĩnh vực thay vì bị giới hạn trong một tác vụ hẹp. Tuy nhiên, khi các mô hình tiệm cận và vượt qua nhiều ngưỡng trước đây, thuật ngữ này dần tích lũy thêm những kỳ vọng như độ tin cậy gần như tuyệt đối, sự vượt trội phổ quát, hay điều gì đó gần với siêu trí tuệ nhân tạo. Cột mốc đã bị dịch chuyển song hành cùng công nghệ.

Chúng ta cũng vẫn đang ở giai đoạn cực kỳ sớm. Mô hình mà tôi cho là đã vượt qua ngưỡng này — Astra — mới chỉ được phát hành gần đây, trong khi những hệ thống còn mạnh hơn đang được phát triển. Đồng thời, AI đã vượt qua cái mà tôi gọi là ngưỡng "đủ tốt" với nhiều người, thời điểm nó có thể hỗ trợ thiết thực phần lớn công việc trên máy tính mà họ gặp hàng ngày. Một khi điều đó xảy ra, những gia tăng trí tuệ tiếp theo có thể cảm giác như chỉ là cải tiến nhỏ đối với người dùng, ngay cả khi năng lực bên dưới đang thay đổi mạnh mẽ.

Đủ tốt và AGI khác nhau về bản chất

AI đủ tốt cho phép con người thực hiện công việc hiện có hiệu quả hơn. AGI khiến ta có thể đặt câu hỏi liệu con người có còn cần nằm trong quy trình đó hay không. Chính sự khác biệt này là điểm khởi đầu của kỷ nguyên hậu AGI.

Đó là lý do khi các mô hình cấp AGI xuất hiện, một dạng công ty mới trở nên khả thi. Thay vì thích ứng AI vào quy trình làm việc hiện có của con người, những tổ chức này có thể bắt đầu từ hướng ngược lại: phân rã công việc kỹ năng cao thành các hệ thống tác nhân tự chủ cộng tác, đánh giá lẫn nhau, học từ hiệu suất của chính mình và liên tục cải thiện môi trường mà chúng hoạt động. Về hiệu ứng, bản thân tổ chức có thể bước vào một vòng lặp tự cải thiện đệ quy.

Chúng ta đang ở một thời điểm kỳ lạ trong lịch sử: các hệ thống cấp AGI đã có thể đạt được, trong khi phần lớn nền kinh tế được xây dựng quanh chúng vẫn theo mô hình tiền-AGI, tạo ra công cụ cho con người thay vì những tổ chức được thiết kế quanh trí tuệ tự chủ.

Để lấy ví dụ về cách chúng tôi tiếp cận điều này tại Infinite Ascent: chúng tôi bắt đầu bằng việc xây dựng một harness và các tác nhân giao dịch để vận hành trên thị trường, coi đây là những vai trò đầu tiên trong tổ chức mà chúng tôi có thể tự động hóa. Bước tiếp theo là tạo ra những người đánh giá hiệu suất của các tác nhân, dẫn đến việc phát triển một meta-harness đánh giá công việc của chúng và củng cố những hành vi hiệu quả nhất. Đồng thời, chúng tôi cố ý giữ lại những tác nhân sáng tạo hơn ngay cả khi hiệu suất trong một giai đoạn yếu hơn, để quá trình tiến hóa không đơn thuần hội tụ về một cực đại cục bộ mà đánh mất khả năng khám phá.

Trí tuệ đi trước thể chế

Một sự bất đối xứng thú vị đang hình thành giữa năng lực của các hệ thống AI tiên phong và các tổ chức được xây dựng quanh chúng. Các công ty nghiên cứu phát triển những mô hình mạnh nhất phần lớn vẫn thương mại hóa chúng qua các công cụ và dịch vụ được thiết kế để làm cho quy trình làm việc hiện có của con người hiệu quả hơn. Theo nghĩa đó, phần lớn hạ tầng kinh doanh bao quanh trí tuệ hậu AGI vẫn theo mô hình tiền-AGI.

Có một lý do mang tính cấu trúc khiến điều này có thể kéo dài. Các phòng thí nghiệm tiên phong được lợi từ việc duy trì vai trò nhà cung cấp trí tuệ nằm ngang trên nhiều ngành. Việc đi sâu vào tầng vận hành của từng lĩnh vực dọc sẽ dần đặt họ vào thế cạnh tranh với chính những công ty phụ thuộc vào mô hình của họ.

Điều này cũng đúng với phần lớn nền kinh tế rộng lớn hơn. Nhiều tổ chức đã sở hữu lượng lớn dữ liệu quy trình lịch sử, tri thức nội bộ và dữ liệu hiệu suất được tạo liên tục, có thể cung cấp nền tảng cho những hệ thống ngày càng tự chủ. Tuy vậy, hầu hết đến nay vẫn tiếp cận AI chủ yếu như một công cụ hiệu quả, thay vì một cơ hội để tái thiết kế chính tổ chức.

Điều này mở ra cơ hội cho những công ty mới có thể được xây dựng quanh kiến trúc hậu AGI ngay từ đầu. Họ không cần gắn thêm hệ thống tự chủ vào hàng thập kỷ quy trình, cấu trúc và động lực kế thừa, mà có thể thiết kế công ty quanh trí tuệ nhân tạo ngay từ nền móng.

Cửa sổ cơ hội này sẽ không mở lâu, khi những kiến trúc này chứng minh giá trị và các tổ chức lâu đời bắt đầu áp dụng chúng mạnh mẽ hơn. Cho đến lúc đó, khoảng cách giữa điều công nghệ có thể cho phép và cách tổ chức thực sự đang sử dụng nó đại diện cho một thời điểm chênh lệch giá trị (arbitrage) đáng kể.

Tầng mô hình và ba rủi ro chiến lược

Các mô hình cấp AGI mạnh nhất hiện nay vẫn đóng, với OpenAI và Anthropic đang ở vị trí tiên phong. Các mô hình trọng số mở vẫn kém hơn các mô hình đóng ở những tác vụ xuyên lĩnh vực khắt khe nhất, nhưng nếu xu hướng hiện tại tiếp diễn, tôi kỳ vọng các mô hình mở cạnh tranh được với tiên phong đóng sẽ bắt đầu xuất hiện trong vài tháng tới.

Đối với các tổ chức hậu AGI, việc phụ thuộc vào phòng thí nghiệm nghiên cứu và mô hình nguồn đóng tạo ra ba vấn đề chiến lược:

• Rủi ro tập trung: Khi các mô hình này được nhúng vào mọi tầng của tổ chức, phòng thí nghiệm kiểm soát chúng có mức ảnh hưởng vượt trội lên cách công ty vận hành.
• Bất đối xứng thông tin: Bạn đang phơi bày những quy trình, nghiên cứu và tài sản trí tuệ giá trị nhất cho một hệ thống do công ty khác kiểm soát — công ty đang đồng thời mở rộng năng lực hạ tầng mà sản phẩm của bạn phụ thuộc vào.
• Vấn đề về nguồn gốc tri thức: Cả người dùng lẫn đôi khi chính phòng thí nghiệm đều không thể truy vết đầy đủ nguồn gốc của từng năng lực hay hiểu biết. Tranh cãi Navier-Stokes minh họa việc xác định liệu mô hình tự đạt được một hiểu biết hay bị ảnh hưởng bởi tài liệu nó từng gặp là khó đến mức nào.

Và có lẽ quan trọng nhất: mô hình đóng giới hạn mức độ sâu mà tổ chức có thể mở rộng vòng lặp tự cải thiện đệ quy của chính mình. Nếu một tổ chức muốn liên tục cải thiện dựa trên hiệu suất và dữ liệu của mình, nó cần có khả năng đẩy những bài học đó ngược trở lại xuyên suốt toàn bộ chồng công nghệ AI.

Trí tuệ không có đỉnh cuối cùng

Cần xua tan một giả định sai lầm thường gắn với AGI hay thậm chí siêu trí tuệ nhân tạo (ASI): rằng những hệ thống đủ thông minh sẽ, theo định nghĩa, gần như hoàn hảo ở mọi tác vụ ngay từ đầu.

Giả định đó ngầm coi trí tuệ có một đỉnh cuối cùng. Lịch sử lại gợi ý điều ngược lại. Vào cuối thế kỷ 19, một số nhà vật lý tin rằng cấu trúc nền tảng của vật lý đã cơ bản được hiểu rõ — cho đến khi thuyết tương đối và cơ học lượng tử phơi lộ những tầng thực tại hoàn toàn mới, cùng với những lớp câu hỏi hoàn toàn mới.

Việc theo đuổi tri thức không phải một cuộc tìm kiếm hữu hạn. Mỗi bước tiến phơi lộ chiều sâu lớn hơn, và điều có thể khám phá bị giới hạn không chỉ bởi trí tuệ thực hiện nó mà còn bởi tính sáng tạo của chính cuộc tìm kiếm.

Đó là lý do các công ty hậu AGI, nếu muốn thực sự hoàn thành lời hứa của AI, phải được xây dựng quanh sự cải thiện liên tục ở mọi tầng của chồng công nghệ — từ ứng dụng và harness, qua mã vận hành tổ chức, cho đến tinh chỉnh hậu huấn luyện (post-training) các mô hình mà chính doanh nghiệp vận hành trên đó.

Tác động kinh tế và trí tuệ như một yếu tố sản xuất

Tác động kinh tế của kỷ nguyên hậu AGI có thể là chưa từng có trong lịch sử kinh tế và nhân loại, và sẽ chỉ được tăng tốc khi các kiến trúc tương tự được mở rộng ra ngoài phần mềm sang AI vật lý và robot.

AI thường được so sánh với đường sắt, điện lực hay internet. Nhưng không công nghệ nào trong số đó sở hữu trí tuệ để tham gia trực tiếp vào quá trình cải thiện chính mình. Các hệ thống hậu AGI giới thiệu một điều gì đó căn bản khác biệt: trí tuệ có thể liên tục tự đẩy mình về phía biên giới tiên phong, cải thiện hiệu suất của chính nó, với tốc độ mà không tổ chức nào do con người vận hành có thể theo kịp.

Một khả năng đáng cân nhắc: chính tốc độ tiến bộ phi thường có thể nén giai đoạn đứt gãy lại. Những biến động công nghệ trước đây thường diễn ra trong nhiều năm hoặc nhiều thập kỷ, để lại nền kinh tế và thể chế kẹt giữa trạng thái cân bằng cũ và mới. RSI có thể rút ngắn khoảng thời gian đó một cách ấn tượng. Quá trình chuyển đổi vì thế có thể khốc liệt về cường độ nhưng ngạc nhiên là ngắn về thời gian.

Tôi tin hướng dài hạn khả dĩ hơn là một kỷ nguyên sung túc phi thường. Kết cục này không hề được bảo đảm, nhưng những hệ thống tự chủ đang tối ưu hóa sản xuất năng lượng, hàng hóa, hạ tầng, phần mềm, thực phẩm, y dược, giao thông và cuối cùng là phần lớn nền kinh tế vật lý sẽ mở rộng mạnh mẽ khả năng sản xuất những gì con người cần và mong muốn.

Đó cũng là lý do bản thân trí tuệ sẽ ngày càng trở thành một trong những đầu vào nền tảng của sản xuất. Điều đặc biệt là ý nghĩa kinh tế của nó có thể cộng hưởng theo hai hướng cùng lúc: chúng ta triển khai ngày càng nhiều trí tuệ, trong khi trí tuệ được triển khai lại tiếp tục trở nên mạnh hơn.

Lượng cung tăng lên, chất lượng cũng tăng lên — một dạng đầu vào hiếm thấy trong lịch sử kinh tế.

Điểm khan hiếm dịch chuyển

Khi trí tuệ trở nên dồi dào, những ràng buộc khác trở nên quan trọng hơn: tính toán (compute), năng lượng, hạ tầng vật lý, đất đai, nguyên liệu thô và tốc độ xây dựng năng lực mới.

Nhưng ngay cả ở đây, động lực vẫn bất thường, vì trí tuệ đang đòi hỏi những nguồn lực đó có thể đồng thời được ứng dụng để mở rộng chúng. AI có thể cải thiện lưới điện, tối ưu cân bằng tải, thiết kế phần cứng và hạ tầng hiệu quả hơn, tăng tốc nghiên cứu khoa học, và có khả năng giúp mở khóa những nguồn năng lượng hoàn toàn mới.

Điều này tạo ra một vòng lặp đệ quy khác: nhiều năng lượng hơn cho phép nhiều tính toán hơn; nhiều tính toán hơn cho phép nhiều trí tuệ hơn; và nhiều trí tuệ hơn có thể được hướng vào việc tạo ra các nguồn năng lượng và hạ tầng dồi dào, hiệu quả hơn.

Chuẩn bị nền móng

Sự trỗi dậy của nền kinh tế hậu AGI sẽ không chỉ phụ thuộc vào việc trí tuệ có thể làm gì, mà vào việc chúng ta có xây dựng được hạ tầng vật lý và thể chế cần thiết để nó mở rộng hay không.

Nhiều ràng buộc không mang tính công nghệ mà mang tính con người: từ cấp phép, quy định, cho đến các thể chế được thiết kế cho một thế giới vận động chậm hơn về cơ bản. Trí tuệ có thể cộng hưởng với tốc độ phi thường, nhưng nó vẫn bị giới hạn bởi tốc độ mà chúng ta cho phép nền móng vật lý của nó được xây dựng.

Trí tuệ mở cũng sẽ quan trọng không kém. Để xây dựng những hệ thống tự cải thiện đệ quy, tổ chức cần không chỉ quyền truy cập trí tuệ, mà còn những mô hình họ có thể kiểm tra, triển khai, chuyên biệt hóa, tinh chỉnh hậu huấn luyện và cuối cùng là kiểm soát.

Từ góc độ khả năng phục hồi và vị thế dẫn dắt công nghệ phương Tây, điều này đặc biệt quan trọng. Nhiều mô hình tiên phong mở mạnh nhất hiện nay đang được phát triển bởi các phòng thí nghiệm Trung Quốc. Các tổ chức nghiên cứu phương Tây không nên để biên giới mở bị bỏ ngỏ.

NVIDIA đáng được ghi nhận đặc biệt ở đây với chương trình Nemotron công bố trọng số mô hình, dữ liệu huấn luyện, công thức và bộ công cụ đánh giá, đồng thời đã tạo ra một liên minh nhằm thúc đẩy các mô hình tiên phong mở.

Vai trò của chúng ta

Đối với tôi và nhóm của tôi tại Infinite Ascent, tương lai sung túc mở rộng này là điều chúng tôi tin tưởng sâu sắc và là nơi chúng tôi đã chọn dồn nguồn lực.

Chúng tôi thấy vai trò của các kỹ sư và nhà nghiên cứu trong kỷ nguyên này ngày càng trở thành việc xây dựng chính các tổ chức hậu AGI — phát triển những hệ thống mà ở đó trí tuệ tự chủ tiến dần lên cao hơn trong cấu trúc tổ chức, đảm nhận nhiều công việc hơn, tự đánh giá hiệu suất của mình và cải thiện các hệ thống bên dưới.

Theo một nghĩa nào đó, tham vọng của những nhóm kỹ thuật cao xây dựng các tổ chức này nên là làm cho vai trò hiện tại của chính họ dần trở nên không còn cần thiết. Không phải vì con người trở nên vô nghĩa, mà vì mỗi bài toán ta giải quyết thành công phải cho phép ta tiến tới bài toán tiếp theo.

Chúng tôi tiếp cận tương lai đó với sự khiêm tốn. Một số ý tưởng ở đây có thể mất nhiều thời gian hơn kỳ vọng để thành hình, và những chuyển đổi ở quy mô này chắc chắn sẽ ảnh hưởng đến đời sống con người theo những cách không thể dự đoán hoàn hảo trước.

Nhưng niềm tin nền tảng của chúng tôi là sự lạc quan sâu sắc: rằng trí tuệ lớn hơn cuối cùng có thể tạo ra một thế giới sung túc hơn, tri thức hơn và nhiều khả năng hơn, đồng thời cho phép chúng ta xây dựng theo cách có lợi cho cả sự sống thông minh lẫn thế giới tự nhiên quanh ta.

Đó là biên giới mà chúng tôi định tiến tới.