Andrej Karpathy, cựu đồng sáng lập OpenAI, chính thức gia nhập Anthropic để phát triển LLM

Andrej Karpathy, nhà nghiên cứu trí tuệ nhân tạo từng là đồng sáng lập và nhân sự chủ chốt của OpenAI, cũng như cựu giám đốc bộ phận AI tại Tesla, đã chính thức gia nhập Anthropic.

"Tôi đã gia nhập Anthropic," Karpathy đăng tải trên mạng xã hội X vào thứ Ba. "Tôi nghĩ rằng vài năm tới tại biên giới của các mô hình ngôn ngữ lớn (LLM) sẽ đặc biệt định hình nên tương lai. Tôi rất hào hứng được gia nhập đội ngũ tại đây và quay trở lại với công việc nghiên cứu và phát triển (R&D)."

Karpathy bắt đầu làm việc tại Anthropic từ tuần này dưới sự dẫn dắt của Nick Joseph, người đứng đầu đội ngũ tiền huấn luyện (pre-training). Theo công ty, giai đoạn tiền huấn luyện chịu trách nhiệm cho các quá trình huấn luyện quy mô lớn, cung cấp kiến thức và khả năng cốt lõi cho Claude. Đây cũng là một trong những giai đoạn tốn kém nhất và đòi hỏi tài nguyên tính toán (compute) khổng lồ khi xây dựng một mô hình tiên phong.

Một phát ngôn viên của Anthropic cho biết TechCrunch biết rằng Karpathy sẽ thành lập một đội ngũ tập trung vào việc sử dụng chính Claude để tăng tốc nghiên cứu tiền huấn luyện.

Karpathy là một trong số ít các nhà nghiên cứu có thể thu hẹp khoảng cách giữa lý thuyết LLM và thực tế huấn luyện quy mô lớn. Việc Anthropic tin tưởng giao cho ông trọng trách xây dựng đội ngũ này là một tín hiệu rõ ràng cho thấy công ty tin rằng nghiên cứu được hỗ trợ bởi AI, thay vì chỉ dựa vào sức mạnh tính toán thuần túy, chính là cách họ duy trì khả năng cạnh tranh với OpenAI và Google.

Trong thời gian làm việc tại OpenAI, Karpathy tập trung vào học sâu (deep learning) và thị giác máy tính (computer vision) cho đến khi ông rời đi vào năm 2017 để gia nhập Tesla. Tại đây, ông đã dẫn dắt các chương trình Full Self-Driving (FSD) và Autopilot trước khi rời đi vào năm 2022. Sau đó, ông quay lại OpenAI trong một năm trước khi rời đi lần nữa vào năm 2024 để thành lập Eureka Labs, một startup dành riêng cho việc áp dụng trợ lý AI vào giáo dục.

Kể từ khi ra mắt, Karpathy chưa chia sẻ nhiều cập nhật về Eureka Labs và hiện chưa rõ liệu nhà nghiên cứu nổi tiếng này có tiếp tục với startup đó hay không. Ông cũng từng giảng dạy một khóa học trực tuyến mang tên Neural Networks: Zero to Hero giúp sinh viên học cách xây dựng mạng nơ-ron từ con số 0 bằng code, đồng thời sở hữu một kênh YouTube nơi ông đăng tải các bài giảng về LLM và AI.

"Tôi vẫn đam mê sâu sắc với giáo dục và dự định sẽ tiếp tục công việc này trong thời gian tới," Karpathy chia sẻ.

Trong một diễn biến liên quan khác, Anthropic cũng đã tuyển dụng Chris Rohlf vào đội ngũ "đội đỏ" (red team) ở biên giới (frontier red team), nơi chịu trách nhiệm kiểm thử các mô hình AI tiên tiến chống lại các mối đe dọa nghiêm trọng. Rohlf là một cựu binh của ngành an ninh mạng với hơn 20 năm kinh nghiệm. Ông từng làm việc tại đội ngũ an ninh mạng uy tín của Yahoo được gọi là "The Paranoids", và gần đây nhất là tại Meta, nơi ông làm việc trong sáu năm trước khi gia nhập Anthropic. Rohlf cũng từng là một nghiên cứu sinh tại Trung tâm An ninh và Công nghệ Mới nổi của Georgetown, nơi ông làm việc trên dự án CyberAI.

"Chúng ta có một cơ hội thực sự trước mắt để cải thiện đáng kể an ninh mạng với AI," Rohlf nói trong một bài đăng trên X. "Tôi không thể nghĩ ra một công ty hay đội ngũ nào tốt hơn để gia nhập vào thời điểm quan trọng này."