Graviton 5 thực sự ấn tượng, nhưng hãy ngừng gọi chúng là "chip AI"

Amazon, cùng với phần còn lại của ngành công nghiệp, đã quá quen với việc định hình mọi sự kiện thông qua bối cảnh AI đến mức họ đã đánh mất phương hướng về dòng chip Graviton của mình, và theo đó là cả uy tín. Điều này thật đáng tiếc, bởi thực tế đây là một chiếc chip xuất sắc.

Trước hết, The Wall Street Journal đã đưa tin đầy hào hứng rằng cam kết 6 tỷ USD của Snowflake dành cho AWS là "cho các chip tính toán tác nhân (agentic computing chips)". Sau đó, bản thông cáo báo chí của AWS cũng hoan nghênh việc ra mắt các chip mới nhất của họ "cho kỷ nguyên Agentic AI". Trong cả hai trường hợp, họ đều đang nói đến dòng chip Graviton. Bạn có thể dễ dàng nhầm lẫn rằng đây là một loại GPU nào đó. Không, đó là Trainium. (Về mặt kỹ thuật, Trainium không phải là GPU, cũng không phải là CPU, mà là một mảng systolic. Đừng lo; phần lớn kỹ sư phần mềm AI cũng chẳng biết cái quái gì đó là đâu). Graviton là CPU Arm đa năng của AWS, có thể được dùng cho AI giống như cách Excel có thể được dùng làm cơ sở dữ liệu. Nhưng đó xa mới là mục đích duy nhất, hay thậm chí là mục đích chính của nó.

Hãy cùng đi sâu vào thực chất của Graviton.

Giá cả / Hiệu năng / Thực tế

Trong một thời gian dài, Amazon từ chối công bố các điểm chuẩn, định vị cạnh tranh dòng Arm non trẻ của mình chống lại Intel. Nhiều người trong chúng tôi từng nghĩ rằng điều này có nghĩa là kết quả sẽ gây thất vọng — vì vậy bạn có thể hình dung sự ngạc nhiên của tôi khi các thử nghiệm khối lượng công việc thực tế cho thấy hiệu suất tốt hơn từ 35% đến 40% trong nhiều tình huống khác nhau. Cứ như thể Amazon đã xây dựng nên một thứ gì đó tuyệt vời, nhưng lại somehow ngại ngần khi thừa nhận điều đó.

Những ngày tháng đó đã qua xa; họ rao giật trong dòng phụ đề của thông báo rằng Graviton 5 có nghĩa là "ứng dụng chạy nhanh hơn 35%, suy luận ML nhanh hơn 35%, và cơ sở dữ liệu nhanh hơn 30%". Phải công bằng rằng, tôi đã mong đợi những con số này so sánh với một thứ gì đó cổ lỗ sĩ, nhưng trong một màn trung thực đáng khích lệ, họ đang so sánh chúng với Graviton 4, vốn cũng không phải là kẻ yếu thế.

Tuy nhiên, giá của chúng cũng đắt hơn 9%.

Ngày xưa, các thế hệ mới của instance AWS thường có giá rẻ hơn đáng kể so với người tiền nhiệm. Việc chuyển từ c4.large sang c5.large đồng nghĩa với việc bạn có được hiệu suất tốt hơn, và bản thân instance rẻ hơn tới 15%. Việc nâng cấp là một lựa chọn không cần suy nghĩ! Điều đó bắt đầu thay đổi, và bây giờ việc nâng cấp đồng nghĩa với việc instance trở nên đắt đỏ hơn. Quan điểm của AWS là đây là một phân tích chưa đầy đủ, vì hiệu suất được cải thiện có nghĩa là bạn sẽ trả ít hơn cho một khối lượng công việc nhất định. Trong một số trường hợp, điều này là đúng, nhưng trong những trường hợp khác, nó giống như việc nói một chiếc Ferrari có hiệu suất giá tốt hơn Honda CR-V của tôi vì tôi có thể lái nó đi làm nhanh gấp ba lần. Logic, cũng như đèn giao thông, đều không đồng tình.

Lập luận của Amazon là đúng đối với những khách hàng có các cụm node lớn chạy ở mức độ sử dụng CPU cao. Việc chuyển đổi các cụm đó sang thế hệ mới chắc chắn sẽ mang lại sự cải thiện về hiệu suất giá, miễn là khối lượng công việc và các vì sao đều thuận lợi.

Tuy nhiên, đối với những khách hàng cần một số lượng node cố định (hãy nghĩ đến các công ty cơ sở dữ liệu, nơi cung cấp cho mỗi khách hàng một số lượng bản sao nhất định, hoặc các khối lượng công việc dạng "mỗi môi trường nhận được ba node, một node cho mỗi Availability Zone"), điều này đại diện cho mức tăng giá thuần túy 9% khi chuyển từ thế hệ cũ sang thế hệ mới. Điều này đặt nhiều khách hàng vào thế khó xử: nâng cấp lên các dòng instance mới, hay ở lại với các dòng cũ và nhìn thấy tính sẵn có bị hạn chế trong những năm tới khi AWS ngừng lắp đặt các chip cũ. (Chào Amazon PR! Nếu bạn định nhảy vào hộp thư của tôi để nói rằng điều đó sẽ không xảy ra, tôi có một khách hàng mà tôi rất muốn bạn trò chuyện cùng!)

Nhưng đợt tăng giá này không diễn ra trong môi trường chân không. Nó diễn ra trong bối cảnh "một chiếc Raspberry Pi 8GB giờ đây có giá 175 USD, gấp đôi giá ra mắt 85 USD". Các linh kiện đã trở nên đắt đỏ một cách đáng sợ trên toàn diện khi các công ty lớn cạnh tranh về công suất, và AWS chắc chắn cũng đang cảm nhận áp lực đó. Hai công ty đã từng yêu cầu mua toàn bộ công suất Graviton của AWS trong năm; AWS rõ ràng có dư địa để đẩy giá lên tầng cao nhất! Bằng cách nào đó, họ không chỉ chống lại tiếng hát của nàng tiên cá "hãy vét túi tôi đi, bố già kinh doanh", mà còn quản lý để giữ nguồn cung mạnh mẽ cho khách hàng của mọi loại hình; tôi đã nâng cấp node phát triển của mình trong tài khoản AWS nhỏ bé và bình thường của mình hôm qua, và nó hoạt động trơn tru.

Và vì thế...

Mặc dù có những chiêu trò marketing vô nghĩa, tôi không muốn làm giảm đi sự tuyệt vời thực sự của Annapurna Labs (bộ phận chế tạo chip của Amazon) trong việc liên tục tạo ra những con chip có hiệu suất điên rồ năm này qua năm khác. Chip của họ thực sự tuyệt vời, và các con số của Graviton 5 là một chiến thắng. Bị lu mờ bởi bối cảnh "Agentic AI", những thứ nền tảng cho tất cả mọi thứ tiếp tục hoạt động, cải thiện, và phần lớn lướt qua mà không được chú ý.

Hãy tiếp tục đi nhé. ®