Cerebras CS-4: Hệ thống rack thế hệ mới ép từng Hertz hiệu năng AI

Cerebras vừa chính thức trình làng thế hệ hệ thống rack CS-4 và chip wafer-scale WSE-3T, đánh dấu bước tiến táo bạo trong cuộc đua hiệu năng AI. Trọng tâm của thế hệ mới không nằm ở việc thiết kế lại silicon mà là ép xung mạnh mẽ hơn, đồng thời tái cấu trúc toàn bộ hệ thống theo hướng mô-đun để dễ dàng triển khai và nâng cấp.

WSE-3T: Cú ép xung "Turbo" ấn tượng

Điểm nhấn lớn nhất của lần ra mắt này chính là chip WSE-3T. Đúng như tên gọi "Turbo", con chip này không phải là silicon mới mà chỉ là phiên bản ép xung của WSE-3. Cerebras cho biết họ đã tối ưu hệ thống phân phối điện năng đến mức có thể đẩy gấp đôi công suất qua chip, giúp tăng tần số hoạt động từ 1.4 GHz lên khoảng 2.8 GHz. Nhờ đó, hiệu năng tính toán AI đạt 250 PFLOPS (sparse FP16), băng thông bộ nhớ tăng gấp đôi lên 43,2 PB/s và băng thông I/O đạt 2,4 Tbps.

Tuy nhiên, cần lưu ý rằng con số 250 PFLOPS dựa trên tính toán thưa (sparsity), vốn không mang lại lợi ích trực tiếp cho quá trình suy luận mô hình ngôn ngữ lớn (LLM). Hiệu năng thực tế với FP16 dense chỉ vào khoảng 25 PFLOPS. Dù vậy, con số này vẫn rất ấn tượng so với các GPU hàng đầu hiện nay.

Việc tăng gấp đôi hiệu năng thay vì tăng dung lượng SRAM cho thấy Cerebras đang có sự tính toán chiến lược cho các kiến trúc suy luận phân tách (disaggregated inference) mới nổi.

Kiến trúc rack-scale mới và quan hệ đối tác chiến lược

Điểm thú vị nhất thế hệ này là sự thay đổi trong thiết kế hệ thống. Chip Cerebras giờ được đặt trong các "backpack" mô-đun — các hệ thống tự chứa toàn bộ linh kiện điều khiển, có thể cắm trực tiếp vào mặt sau của rack. Mỗi hệ thống CS-4 có thể chứa tới ba backpack, tăng gấp ba số lượng chip trên mỗi rack so với thế hệ trước. Tổng công suất tiêu thụ ước tính từ 120 kW đến 140 kW mỗi hệ thống, vẫn khá khiêm tốn so với các rack 240-250 kW của AMD và Nvidia.

Một điểm đáng chú ý khác là chiến lược hợp tác của Cerebras. Thay vì cố gắng xử lý toàn bộ quy trình suy luận trên chip của mình, họ đã hợp tác với AWS và AMD để xử lý phần "prefill" (xử lý prompt) tốn nhiều tính toán. Chip Cerebras giờ đóng vai trò là bộ tăng tốc giải mã (decode accelerator), tương tự cách Nvidia sử dụng LPU của Groq trong hệ thống LPX. Với lượng SRAM khổng lồ, chip Cerebras có thể chạy các mô hình nghìn tỷ tham số chỉ với vài chục chip, thay vì hàng nghìn GPU.

Giảm độ trễ, tăng băng thông

Cerebras cũng giới thiệu kiến trúc kết nối mới sử dụng 2D torus topology, giúp giảm độ trễ liên kết từ 5 micro giây xuống còn 2 micro giây. Bằng cách loại bỏ các switch trung gian và cho các chip giao tiếp trực tiếp với nhau, hệ thống có thể hỗ trợ các mô hình lên tới 50 nghìn tỷ tham số. Băng thông chip-to-chip cũng được tăng gấp đôi lên 2,4 Tbps.

Hiệu quả ban đầu rất ấn tượng: trên một hệ thống CS-4 duy nhất, tốc độ suy luận đạt 4.400 token/giây/người dùng với mô hình gpt-oss-120b, so với khoảng 350 token/giây trên dịch vụ GPU nhanh nhất hiện nay. Tuy nhiên, cần lưu ý đây là benchmark từ Artificial Analysis, có thể không phản ánh đầy đủ các kịch bản thực tế.

Tương lai và kỳ vọng

Với việc ưu tiên tăng hiệu năng hơn là dung lượng SRAM, nhiều người kỳ vọng thế hệ WSE-4 tiếp theo sẽ tập trung vào việc tăng gấp đôi SRAM trong khi chỉ cải thiện nhẹ hiệu năng FP16. Các hệ thống CS-4 đầu tiên dự kiến sẽ được đưa vào hoạt động trong quý này.

Đối với thị trường Việt Nam, việc Cerebras mở rộng hệ sinh thái với các đối tác như AWS và AMD có thể mở ra cơ hội cho các doanh nghiệp trong nước tiếp cận hạ tầng AI hiệu năng cao thông qua các dịch vụ cloud, mà không cần đầu tư trực tiếp vào phần cứng đắt đỏ.