Recursive ra mắt Flint: Mô hình lập trình chạy trên laptop được AI tạo ra phần lớn

Recursive, startup AI thành lập năm ngoái, vừa cho ra mắt mô hình đầu tiên mang tên Flint — một mô hình lập trình miễn phí chạy được trên laptop và được xây dựng phần lớn nhờ chính hệ thống AI của công ty. Sản phẩm này được xem là bước thử nghiệm công khai đầu tiên cho ý tưởng AI tự cải thiện chính mình, một trong những chủ đề gây tranh cãi nhất trong ngành.

Eureka Machine: "cỗ máy" nghiên cứu tự động

Theo Recursive, hệ thống nghiên cứu tự động mà công ty gọi là Eureka Machine đã đóng góp vào gần như mọi khâu phát triển của Flint. Nhờ đó, một nhóm nhỏ đã có thể xây dựng mô hình từ con số không chỉ trong vòng chưa đầy bốn tháng.

Eureka Machine có khả năng đưa ra ý tưởng, chạy thử nghiệm và dùng kết quả để quyết định bước tiếp theo. Theo video ra mắt của công ty, hệ thống này tham gia vào hầu hết các giai đoạn xây dựng Flint, từ tiền huấn luyện (pre-training) đến hậu huấn luyện (post-training) và suy luận (inference).

Những đóng góp cụ thể mà Recursive nêu ra gồm:

• Thiết kế mô hình thưa hơn (sparser model shape), giúp giảm tài nguyên cần thiết
• Huấn luyện bit thấp (low-bit training), thu nhỏ Flint tới 71% mà gần như không mất chất lượng
• Kernel tùy chỉnh — các chương trình chuyên biệt giúp tăng tốc tính toán nền tảng

Nhỏ gọn, nhanh và miễn phí

Điểm khác biệt lớn nhất của Flint là nó chạy trên máy tính của người dùng thay vì máy chủ đám mây của công ty. Nhờ vậy, lập trình viên có thể dùng offline, giữ mã nguồn riêng tư và tránh các khoản phí sử dụng mà dịch vụ AI đám mây thường tính theo lượng văn bản xử lý.

Mô hình được phát hành miễn phí trên Hugging Face theo giấy phép Apache 2.0, cho phép sử dụng và chỉnh sửa tự do.

Về kiến trúc, Flint là mô hình mixture-of-experts, nghĩa là mỗi tác vụ chỉ dùng một phần nhỏ của mô hình: 2,5 tỷ trong tổng số 40 tỷ tham số tại một thời điểm. Nhờ đó, nó đủ nhẹ để chạy trên laptop thông thường và nhỏ hơn nhiều so với các mô hình mở chạy trên Mac khác.

Về tốc độ, trong thử nghiệm của Recursive, Flint tạo ra khoảng 131 token/giây trên MacBook Pro dùng chip Apple M4 Pro — gần gấp đôi mức 58–69 token/giây của các mô hình tương đương trên cùng máy. Trên GPU Nvidia RTX Spark, Flint vượt mốc 150 token/giây.

Trên bộ đánh giá SWE-Bench Verified — thước đo khả năng sửa lỗi phần mềm thực tế của AI — Flint vượt trội so với các mô hình dưới 50 tỷ tham số. Trên thang điểm trung bình sáu bài kiểm tra của Recursive, chỉ có một mô hình đạt điểm cao hơn Flint.

Công ty thừa nhận Flint sẽ cần nhiều hướng dẫn hơn các trợ lý lập trình trả phí lớn, và khuyến nghị chia nhỏ các tác vụ lớn thành nhiều bước.

Dù vậy, các đánh giá ban đầu khá tích cực. Cây bút công nghệ Will Knight của Wired đã dùng Flint trên máy Mac 48GB RAM để xây dựng nhiều chương trình nhỏ, gồm ứng dụng to-do list và công cụ tìm kiếm thông tin trên web, và nhận thấy Flint xử lý đúng mọi yêu cầu.

Tham vọng tự cải thiện đầy đủ

Recursive nổi lên từ chế độ "stealth" vào tháng 5 với 650 triệu USD vốn đầu tư ở mức định giá 4,65 tỷ USD, từ các nhà đầu tư gồm GV, Nvidia và AMD Ventures. Công ty do Richard Socher, cựu giám đốc khoa học của Salesforce, dẫn dắt với vai trò CEO.

Việc dựa vào AI để làm nghiên cứu không phải độc quyền của Recursive. OpenAI hồi tháng trước cho biết tính đến giữa tháng 8, các tác nhân AI của họ đã ghi nhận 3,1 ngày công cho mỗi một ngày công của nhà nghiên cứu con người. Recursive cũng từng chia sẻ với TechCrunch rằng thỏa thuận hạ tầng tính toán 410 triệu USD với AWS vào tháng 6 "không phải về số nhân sự, mà là về số tác nhân AI".

Mục tiêu dài hạn, theo Socher, là đưa Eureka Machine đạt được khả năng tự cải thiện đầy đủ (full recursive self-improvement), với con người giám sát quá trình và có thể dừng lại nếu có sự cố. Recursive kỳ vọng mỗi mô hình mới sẽ giúp Eureka Machine trở thành một nhà nghiên cứu giỏi hơn, từ đó xây dựng mô hình tiếp theo nhanh hơn nữa.

Góc nhìn cho người dùng Việt Nam

Với lập trình viên Việt Nam, Flint là một lựa chọn đáng chú ý nhờ miễn phí hoàn toàn, chạy offline và không tốn phí API. Những ai quan tâm đến quyền riêng tư mã nguồn — đặc biệt khi làm việc cho khách hàng nước ngoài — có thể cân nhắc dùng thử. Tuy nhiên, cần lưu ý rằng mô hình nhỏ sẽ không thể thay thế hoàn toàn các trợ lý lập trình lớn, và người dùng nên chia nhỏ tác vụ để đạt hiệu quả tốt nhất.