Microsoft đưa Maia lên quy mô hàng gigawatt cho suy luận AI, nhưng chỉ số hiệu suất gây tranh cãi

Microsoft vừa công bố kế hoạch đầy tham vọng: mở rộng dòng chip tăng tốc Maia lên quy mô hàng gigawatt bắt đầu từ năm 2027. Điều đáng chú ý là hãng đặt mục tiêu biến Maia thành hệ thống suy luận (inference) chủ lực cho chính các sản phẩm của mình, thay vì phụ thuộc phần lớn vào GPU của các nhà cung cấp bên ngoài.

Thế hệ mới Maia 300 mang đến thay đổi quan trọng về kiến trúc: gộp hai lớp mở rộng — scale-up (mở rộng trong một cụm) và scale-out (mở rộng ra nhiều cụm) — vào chung một mạng Ethernet duy nhất. Bên cạnh đó, hệ thống có thể di chuyển trạng thái KV (KV state) giữa các worker prefill và decode mà không cần đưa dữ liệu ra khỏi mạng nội bộ.

Kiến trúc gộp hai lớp mở rộng vào một mạng duy nhất

Trong các hệ thống suy luận AI quy mô lớn, dữ liệu thường phải di chuyển qua nhiều tầng mạng khác nhau, gây độ trễ và tiêu tốn băng thông. Việc Maia 300 hợp nhất scale-up và scale-out trên một nền tảng Ethernet giúp giảm số chặng trung gian, từ đó hạn chế độ trễ khi phục vụ các mô hình lớn.

Cách tiếp cận này cũng phản ánh xu hướng chung của ngành: các ông lớn công nghệ đang tìm cách tối ưu tổng chi phí sở hữu (TCO) cho hạ tầng AI thay vì chỉ chạy theo hiệu năng đỉnh. Với khối lượng truy vấn AI tăng theo cấp số nhân, chi phí điện năng và vận hành đang trở thành yếu tố sống còn.

Chỉ số tokens-per-watt và những dấu hỏi từ giới chuyên môn

Điểm gây tranh cãi nhất nằm ở chỉ số tokens-per-watt — số token xử lý được trên mỗi watt điện tiêu thụ — vốn được Microsoft đưa lên vị trí dẫn dắt trong thông báo. Nhiều kỹ sư và chuyên gia hạ tầng đặt câu hỏi về cách chỉ số này được đo lường.

Cụ thể, giới phê bình cho rằng:

• Chưa rõ chỉ số được tính trong điều kiện thực tế nào, với kích thước mô hình và độ dài ngữ cảnh ra sao
• Việc so sánh tokens-per-watt giữa các thế hệ chip cần bối cảnh đầy đủ, nếu không rất dễ gây hiểu lầm
• Hiệu suất năng lượng ở tầng chip không phản ánh toàn bộ chi phí điện của cả hệ thống, gồm cả làm mát và hạ tầng phụ trợ

"Chỉ số hiệu suất chỉ có ý nghĩa khi đi kèm phương pháp đo minh bạch và bối cảnh triển khai cụ thể," một chuyên gia hạ tầng nhận định.

Ý nghĩa với thị trường và người dùng Việt Nam

Với người dùng và doanh nghiệp Việt Nam, động thái của Microsoft có thể ảnh hưởng gián tiếp qua giá và chất lượng dịch vụ AI trên nền tảng Azure. Khi hãng chuyển phần lớn khối lượng suy luận sang chip tự phát triển, chi phí vận hành có thể giảm, từ đó mở ra cơ hội cho các dịch vụ AI giá rẻ hơn.

Tuy nhiên, đây cũng là lời nhắc nhở cho các đội ngũ kỹ thuật trong nước: khi đánh giá hạ tầng AI, cần nhìn vào hiệu năng trên mỗi đồng chi phí và hiệu năng trên mỗi watt thực tế, chứ không chỉ tin vào con số tiếp thị. Việc hỏi rõ phương pháp đo và điều kiện thử nghiệm là bước kiểm tra cần thiết trước khi đưa ra quyết định đầu tư.

Cuộc đua chip AI tự phát triển giữa các ông lớn đang ngày càng nóng. Câu hỏi đặt ra là liệu những tuyên bố về hiệu suất có theo kịp thực tế triển khai, hay chỉ dừng lại ở mức truyền thông.