Startup Parasail huy động 32 triệu USD, đặt cược vào tối ưu hóa token để tạo nên gã khổng lồ máy tính mới

“Hãy cho tôi token. Chỉ cần đưa tôi token. Tôi muốn chúng nhanh. Tôi muốn chúng rẻ. Tôi muốn chúng ngay bây giờ.”

Đó có thể được coi là kim chỉ nam cho các nhà phát triển đang xây dựng phần mềm dựa trên các mô hình AI tạo sinh (generative AI), hoặc ít nhất là những gì CEO của Parasail, Mike Henry, thường nghe thấy. Parasail cung cấp dịch vụ điện toán đám mây cho các công ty vận hành mô hình AI nhằm phục vụ mục đích suy luận (inference), và Henry chia sẻ rằng công ty đang tạo ra 500 tỷ token mỗi ngày. Một con số ấn tượng cho tham vọng tối đa hóa token (tokenmaxxing).

Trước đây, Henry là một giám đốc điều hành tại Groq, nhà sản xuất chip chuyên về LLM (Mô hình ngôn ngữ lớn), nơi ông đã xây dựng dịch vụ đám mây của công ty này. Ông nhận thức sớm rằng các nhà phát triển xây dựng phần mềm trên mô hình AI sẽ muốn xử lý đám mây được chuyên biệt hóa cho nhu cầu của họ. Giờ đây, sau một năm hoạt động bí mật, Parasail đã huy động 32 triệu USD vòng Series A để thực hiện điều này ở quy mô lớn.

Henry có nền tảng về thiết kế chip vật lý, nhưng Parasail không cam kết sở hữu các chip của riêng mình. Trong khi một số GPU thuộc sở hữu của công ty, họ chủ yếu thuê thời gian xử lý tại 40 trung tâm dữ liệu ở 15 quốc gia trên toàn cầu và mua thêm sức mạnh tính toán từ các thị trường thanh khoản. Tất cả được điều phối hậu cần đằng sau hậu trường nhằm giảm thiểu chi phí cho các yêu cầu suy luận.

Bằng cách phân bổ khối lượng công việc một cách khéo léo và tránh các đỉnh nhu cầu, công ty nhằm mục đích cạnh tranh với các công ty sở hữu silicon riêng và có thể bị hạn chế bởi các cam kết và khối lượng công việc của khách hàng hiện hữu.

Tiềm năng của công ty dựa vào sự phổ biến liên tục của các mô hình mã nguồn mở và các tác nhân AI (agents) bên ngoài các phòng thí nghiệm hàng đầu (frontier labs). Các giám đốc điều hành và nhà đầu tư của Parasail cho rằng điều này được thúc đẩy bởi chi phí ngày càng tăng và sự khó khăn khi sử dụng dịch vụ từ các công ty như Anthropic hay OpenAI.

Thay vào đó, một kiến trúc kết hợp đang nổi lên, theo Andreas Stuhlmüller, CEO của Elicit, một startup đã huy động 22 triệu USD vòng Series A để phát triển trợ lý nghiên cứu cho tài liệu khoa học. Khách hàng của ông tại các công ty dược phẩm hàng đầu sử dụng công cụ dựa trên LLM này để xem xét và phân tích dữ liệu từ hàng chục nghìn bài báo khoa học.

“Chúng tôi đã chuyển dịch nhiều hơn sang các mô hình mở vì việc gửi hàng trăm nghìn yêu cầu tới một điểm cuối API là khá tốn kém,” Stuhlmüller chia sẻ với TechCrunch, đặc biệt là khi công ty ngày càng dựa vào các tác nhân AI để cải thiện dịch vụ, chia nhỏ các nhiệm vụ và làm việc chiến lược hơn trong khoảng thời gian dài hơn. Các mô hình mở sẽ xử lý việc sàng lọc ban đầu để giảm chi phí công việc, trước khi một mô hình tiên tiến hơn đưa ra câu trả lời cuối cùng.

Sự gia tăng của các truy vấn mô hình, khi các tác nhân AI trở thành một phần ngày càng phổ biến trong phát triển phần mềm, đang thúc đẩy đầu tư vào các công ty như Parasail cung cấp cơ sở hạ tầng cho suy luận giá rẻ. Samir Kumar, một đối tác tại Touring Capital, người đồng dẫn đầu vòng gọi vốn này, cho biết ông kỳ vọng suy luận sẽ chiếm ít nhất 20% chi phí xây dựng phần mềm trong tương lai.

Parasail có thể chiếm bao nhiêu thị phần? Trong không gian điện toán đám mây đông đúc, Henry lập luận rằng việc tập trung của công ty ông vào suy luận (không cho phép đào tạo) và sự sẵn lòng phục vụ các khách hàng startup mà không cần cam kết dài hạn giúp dịch vụ của họ khác biệt so với các công ty điện toán đám mây lớn hơn tập trung vào doanh nghiệp, và cả với các đối thủ được tài trợ tốt hơn trong không gian suy luận đám mây như Fireworks AI và Baseten.

Tất nhiên, luôn có một loại rủi ro khác khi tất cả khách hàng của bạn là các startup ở vòng hạt giống (seed) và Series B trong lĩnh vực AI khó lường.

Steve Jang, một đối tác tại Kindred Ventures, nhà đồng dẫn đầu còn lại trong vòng gọi vốn này, cho rằng kinh tế của việc triển khai các mô hình sẽ đòi hỏi loại môi giới tính toán mà Parasail cung cấp. Và điều đó là trước khi chúng ta có sự sử dụng rộng rãi các mô hình để tạo nội dung và trong robotics.

“Mọi người từng nghĩ có một bong bóng AI. Không có bong bóng AI nào cả,” ông nói với TechCrunch. “Nhu cầu suy luận đang vượt xa nguồn cung.”