Volantis — startup chip AI được Sam Altman hậu thuẫn — hé lộ kế hoạch phá vỡ bức tường bộ nhớ bằng quang tử tích hợp

Startup chip AI Volantis, được Quỹ đầu tư của Sam Altman hậu thuẫn, vừa công bố kế hoạch phá vỡ bức tường bộ nhớ (memory wall) bằng công nghệ quang tử. Điểm khác biệt: họ không muốn chỉ bán bằng sáng chế, mà nhắm thẳng tới một con chip suy luận (inference chip) hoàn chỉnh.

Volantis muốn làm gì?

Được thành lập năm 2022 tại San Francisco, Volantis đang phát triển một bộ tăng tốc AI sử dụng interposer quang tử (photonic interposer) để tăng mạnh băng thông bộ nhớ mà không đánh đổi dung lượng.

Tham vọng của hãng khá táo bạo:

• Đóng gói hơn 10 TB bộ nhớ với tốc độ lên tới 240 TB/s trên một gói duy nhất
• Đủ sức phục vụ mô hình 20 nghìn tỷ tham số (20T) ở tốc độ 10.000 token/giây cho mỗi người dùng

"Sự khác biệt chủ yếu đến từ interposer quang tử. Vậy tại sao không cấp phép mọi thứ có thể, kể cả khi nó không phải là hiệu năng cao nhất thế giới, bởi vì chúng tôi đã đánh cược rất nhiều rủi ro vào interposer và khâu tích hợp?" — CEO Tapa Ghosh chia sẻ.

Tại sao phải dùng ánh sáng thay vì dây dẫn?

Vấn đề nằm ở bức tường bộ nhớ — nút thắt lớn nhất của các chip AI hiện nay.

Bộ nhớ băng thông cao như HBM cần nằm cực gần phần xử lý để giảm tiêu thụ điện và đảm bảo chất lượng tín hiệu. Hệ quả là dung lượng và băng thông bộ nhớ bị giới hạn bởi đường viền (shoreline) — chu vi vật lý quanh chip xử lý. Với AMD MI455X, giới hạn hiện tại chỉ khoảng 432 GB.

Interconnect quang tử có thể kéo dài khoảng cách này:

• Thay vì vài milimét, bộ nhớ có thể nằm cách xa vài centimét
• Đường viền không còn là điểm nghẽn
• Interposer quang tử được tích hợp các ống dẫn sóng quang (optical waveguide)

Khác biệt so với Lightmatter và Celestial AI

Ý tưởng dùng interposer quang tử silicon không mới. Cả Lightmatter và Celestial AI đều từng theo đuổi hướng này. Thương vụ Marvell mua lại Celestial với giá 5,5 tỷ USD được cho là có phần nhờ ý tưởng "HBM ở khoảng cách xa".

Tuy nhiên Volantis chọn con đường khác:

• Không cấp phép công nghệ cho hãng chip khác (ít nhất là chưa)
• Tự phát triển chip suy luận hoàn chỉnh
• Dùng micro-VCSEL (laser phát quang bề mặt khoang dọc siêu nhỏ) tích hợp thẳng vào interposer, thay vì laser ngoài

Triết lý "ống rộng và hiệu quả"

VCSEL không phải công nghệ mới nhưng từng bị chỉ trích vì độ tin cậy. CTO Roy Meade cho rằng công nghệ này đã tiến bộ nhiều năm qua, và nếu hy sinh một chút tốc độ thì có thể đạt độ tin cậy cao hơn hẳn.

"Mọi người vẫn bị mắc kẹt trong tư duy ống dẫn to điểm-điểm. Tự nhiên là nếu vậy thì bạn sẽ chuyển sang SerDes. Nếu nhìn lại lợi ích của cách tiếp cận ống rộng và hiệu quả — ví dụ HBM — thì dùng chung công thức đó rất hợp lý."

Ý Meade muốn nói: có hai cách tăng băng thông — tăng tốc độ đường truyền hoặc dùng nhiều đường truyền hơn. HBM chọn cách thứ hai: bus siêu rộng nhưng tốc độ mỗi chân chậm hơn. Volantis áp dụng triết lý tương tự cho interposer quang tử.

Bài toán điện năng và lộ trình

Hiệu quả năng lượng là câu hỏi mở với nhiều startup quang tử. Với sản phẩm đầu tiên, Volantis nhắm:

• 1 picojoule/bit cho mỗi làn 24 Gbps
• Tổng công suất hệ thống khoảng 20 kW

Hãng vẫn còn chặng đường dài trước khi tape-out chip thương mại, và cần gọi thêm nhiều vốn — vượt xa 88 triệu USD huy động được tuần này với sự tham gia của Lachy Groom, Abstract Ventures và các nhà đầu tư khác.

CEO Ghosh cho biết khoản vốn này giúp hãng mở rộng từ các mẫu thử quang học quy mô nhỏ lên gần hơn với sản phẩm hoàn thiện.

"Mục tiêu tham vọng là sản phẩm MVP trong 12 đến 18 tháng. Đó là nguyên mẫu hoạt động được, chưa phải sản xuất hàng loạt."

Ý nghĩa với thị trường Việt Nam

Cuộc đua phá vỡ bức tường bộ nhớ đang nóng lên toàn cầu, khi các mô hình AI ngày càng lớn đòi hỏi hạ tầng phần cứng chuyên dụng. Với Việt Nam — nơi nhiều doanh nghiệp và trung tâm dữ liệu đang cân nhắc đầu tư GPU và hạ tầng AI — những đột phá về băng thông bộ nhớ như thế này có thể ảnh hưởng trực tiếp tới chi phí vận hành suy luận AI trong vài năm tới.

Nếu quang tử tích hợp thực sự khả thi ở quy mô sản xuất, nó không chỉ giúp chip AI mạnh hơn mà còn có thể định hình lại toàn bộ cách thiết kế trung tâm dữ liệu AI thế hệ mới.