Nvidia đầu tư vào Simplismart: Phần mềm giúp chạy mô hình AI với ít GPU hơn

Trong bối cảnh làn sóng AI đang tạo áp lực khổng lồ lên năng lực tính toán, Nvidia vừa quyết định đặt cược vào Simplismart — một startup Ấn Độ — thông qua vòng gọi vốn 14 triệu USD. Khoản đầu tư này nhắm vào phần mềm giúp doanh nghiệp vận hành mô hình AI hiệu quả hơn, và trong nhiều trường hợp, chỉ cần ít GPU hơn.

Thương vụ đầu tư và định giá

Nvidia tham gia vòng gọi vốn Series B này cùng với Accel, Shastra VC và Micromax, trong khi Dallas Venture Capital dẫn dắt khoản đầu tư. Thương vụ định giá startup bốn năm tuổi ở mức khoảng 100 triệu USD, bao gồm cả số vốn mới.

Đáng chú ý, đây là một nghịch lý có vẻ rõ ràng: Nvidia — nhà cung cấp chip AI thống trị thị trường — lại đầu tư vào phần mềm có thể giúp doanh nghiệp chạy một số tác vụ với ít GPU hơn.

Bài toán chi phí GPU của doanh nghiệp

Hiện nay, các doanh nghiệp đang chi rất nhiều tiền cho GPU để vận hành ứng dụng AI. Tuy nhiên, việc chạy các mô hình này một cách ổn định và tiết kiệm ở quy mô lớn vẫn là một thách thức lớn. Mỗi loại tác vụ lại đòi hỏi sự đánh đổi khác nhau giữa tốc độ, chi phí và hiệu năng. Việc triển khai và vận hành mô hình AI để đáp ứng yêu cầu kinh doanh thường cũng cần đến những điều chỉnh phức tạp.

Simplismart cho biết phần mềm của mình tự động hóa phần lớn công việc đó, tùy chỉnh cách mô hình chạy trên hạ tầng tính toán sẵn có thay vì buộc khách hàng phải tự quản lý các cấu hình này.

"Không ai thực sự cần suy luận nhanh nhất hay rẻ nhất", Amritanshu Jain, đồng sáng lập kiêm CEO của Simplismart, chia sẻ trong một cuộc phỏng vấn. Ông nhấn mạnh rằng doanh nghiệp cần chạy mô hình AI ở tốc độ và chi phí phù hợp với ứng dụng cụ thể của họ.

Cách phần mềm của Simplismart hoạt động

Phần mềm của Simplismart nằm giữa mô hình AI và hạ tầng tính toán mà mô hình chạy trên đó, điều chỉnh cách triển khai và quản lý mô hình để đáp ứng yêu cầu của khách hàng. Theo công ty, phần mềm có thể tối ưu hóa các yếu tố như:

• Tốc độ phản hồi của mô hình
• Số lượng yêu cầu xử lý được
• Lượng năng lực tính toán tiêu thụ

Nhờ đó, doanh nghiệp có thể khai thác tốt hơn hạ tầng GPU hiện có. Startup có trụ sở tại Bengaluru này cung cấp cho doanh nghiệp cách triển khai và vận hành mô hình AI thông qua nền tảng riêng hoặc trong hạ tầng đám mây và tại chỗ (on-premises) sẵn có. Công ty cũng cung cấp công cụ tinh chỉnh mô hình (fine-tune), tự động mở rộng tài nguyên tính toán theo nhu cầu và giám sát hiệu năng.

Ngoài ra, Simplismart còn cho phép các nhà cung cấp đám mây xây dựng và vận hành dịch vụ suy luận AI của riêng họ trên hạ tầng GPU bằng phần mềm của mình.

Kết quả thực tế và khách hàng

Simplismart cho biết đã giúp nền tảng tạo video AI InVideo cắt giảm 56% chi phí phục vụ GPU bằng phần mềm của mình. Startup này cũng hợp tác với các công ty video AI như HeyGen và Higgsfield, cùng startup AI doanh nghiệp Ema. Bên cạnh đó, nhà cung cấp đám mây Ấn Độ Yotta đang sử dụng công nghệ của Simplismart để vận hành dịch vụ suy luận AI serverless trong nền tảng Shakti Studio.

Về tăng trưởng, Jain cho biết doanh thu thường niên (ARR) của Simplismart đã tăng gấp 14 lần trong sáu tháng qua, đạt mức tám chữ số. Con số này dựa trên mức sử dụng gần đây của khách hàng thay vì doanh thu định kỳ theo hợp đồng, và loại trừ phần doanh thu chuyển tiếp cho các nhà cung cấp hạ tầng.

Đáng chú ý, hơn một nửa doanh thu của Simplismart đến từ thị trường Mỹ, dù startup có nhiều khách hàng hơn ở Ấn Độ.

Hợp tác kỹ thuật với Nvidia

Bên cạnh khoản đầu tư, Nvidia cũng đang phối hợp với Simplismart về các tích hợp kỹ thuật, bao gồm phần mềm suy luận Dynamo của hãng. Sự hợp tác này có sự tham gia của các kỹ sư Simplismart và kiến trúc sư giải pháp của Nvidia, đồng thời Nvidia cũng đã giúp giới thiệu startup với các khách hàng và đối tác tiềm năng.

Lý giải về nghịch lý đầu tư, Jain cho rằng việc làm cho suy luận AI hiệu quả hơn cuối cùng có thể mang lại lợi ích cho Nvidia bằng cách khiến phần cứng của hãng trở nên hấp dẫn hơn với khách hàng và thúc đẩy việc ứng dụng AI rộng rãi hơn.

Thị trường cạnh tranh khốc liệt

Simplismart đang phục vụ khách hàng trong một thị trường phần mềm suy luận AI ngày càng đông đúc. Đối thủ của họ bao gồm chính Nvidia, các nhà cung cấp đám mây lớn như Amazon Web Services, Google Cloud và Microsoft Azure, cùng ngày càng nhiều startup phát triển công cụ giúp mô hình AI chạy nhanh và rẻ hơn.

"Chúng tôi thường thắng ở những nơi người ta phải khắt khe hơn về SLA [thỏa thuận mức dịch vụ] và TCO [tổng chi phí sở hữu]", Jain nói, đề cập đến những yêu cầu hiệu năng cao và ràng buộc chi phí chặt chẽ.

Khác với các đối thủ cung cấp tùy chọn cài đặt sẵn cho suy luận nhanh hơn hoặc rẻ hơn, Simplismart hướng tới việc tìm ra sự cân bằng phù hợp với nhu cầu của từng khách hàng.

Về Simplismart và kế hoạch tương lai

Được thành lập năm 2022 bởi Jain — cựu kỹ sư Oracle — và Devansh Ghatak — cựu kỹ sư Google, Simplismart ra đời từ kinh nghiệm xây dựng và triển khai hệ thống học máy của hai nhà sáng lập. Hiện startup có 58 nhân viên.

Simplismart dự định dùng số vốn mới để mở rộng hiện diện tại Mỹ, phát triển đội ngũ và đầu tư thêm vào việc phát triển phần mềm suy luận. Jain khẳng định Mỹ vẫn là thị trường trọng điểm khi startup muốn mở rộng tệp khách hàng sẵn có tại đây.

Thông báo gọi vốn diễn ra sau khi tờ The Economic Times của Ấn Độ đưa tin Simplismart đang đàm phán huy động 40-50 triệu USD ở mức định giá 300-400 triệu USD. Khi được hỏi về thông tin này, Jain từ chối bình luận, cho biết startup không tích cực gọi vốn và vòng Series B đã khép lại, không mở rộng thêm.