Cùng chip H100, giá thuê chênh nhau 4,57 lần

Cùng một con chip H100 SXM 80GB, thuê theo giờ có thể tốn 2,69 USD hoặc 12,29 USD tùy nơi thuê — mức chênh 4,57 lần. Một dự án trên GitHub có tên data-receipts đã chuẩn hóa bảng giá on-demand của AWS, Azure và các nhà cung cấp GPU cloud thế hệ mới (neocloud) về cùng đơn vị USD/GPU/giờ để so sánh.

Ý nghĩa thực tế rất rõ: một GPU chạy liên tục cả tháng (730 giờ) tốn 1.964 USD hay 8.972 USD, khác biệt hoàn toàn do nơi đặt thuê.

Con số cụ thể

Bảng giá quy đổi cho H100 SXM 80GB:

• RunPod Community: 2,69 USD/giờ — 1.964 USD/tháng
• RunPod Secure: 3,99 USD/giờ — 2.913 USD/tháng
• AWS p5.48xlarge: 6,88 USD/giờ — 5.022 USD/tháng
• Azure ND96isr_H100_v5: 12,29 USD/giờ — 8.972 USD/tháng

Vì sao phải so sánh có nhóm

Tác giả nhấn mạnh rằng "một chiếc H100" thực chất là ba sản phẩm khác nhau: SXM 80GB, PCIe 80GB và NVL 94GB, tất cả đều được quảng cáo là H100 nhưng giá không giống nhau. Gộp chung vào một biểu đồ sẽ tạo ra khoảng chênh không có thật, nên mọi so sánh đều nằm trong cùng một nhóm (model, dung lượng bộ nhớ).

Nguyên tắc này cũng áp dụng trong nội bộ một nhà cung cấp. Azure niêm yết cùng loại A100 PCIe 80GB ở cấu hình một, hai và bốn GPU mỗi máy ảo với giá lần lượt 3,67, 4,78 và 4,78 USD/GPU/giờ. Báo cáo lấy tuyến rẻ nhất của mỗi hãng cho một loại GPU, nên khoảng cách giữa Azure với chính Azure không bị tính thành khoảng cách thị trường. RunPod Secure và RunPod Community được tính là một công ty.

4,57 lần không phải là biên lợi nhuận thuần

Theo báo cáo, khi chuyển từ dòng ND của Azure sang RunPod Community, người dùng mất đi một số thứ:

• InfiniBand. SKU ND của Azure có 400 Gbps mỗi GPU với Quantum-2 InfiniBand và GPU Direct RDMA — yếu tố giúp huấn luyện đa máy (multi-node) hoạt động được. Đây chính là lý do dòng ND có giá cao hơn cả SKU NC một GPU của chính Azure (6,98 USD).
• SLA trung tâm dữ liệu. RunPod Community là các chủ máy chủ bên thứ ba cho thuê phần cứng của họ.
• Tuân thủ doanh nghiệp, dung lượng cam kết và phần còn lại của hệ sinh thái hyperscaler.

Nói ngắn gọn: nếu bạn chỉ tinh chỉnh (fine-tune) trên một node, bạn đang trả tiền cho một đường kết nối mà mình không bao giờ dùng. Nếu bạn huấn luyện trên 64 node, dòng giá rẻ kia không phải là lựa chọn.

Cách dựng lại báo cáo

Kho mã nguồn gồm các tệp sau:

• collect.py: lấy AWS Price List và Azure Retail Prices, không cần xác thực.
• hyperscalers.json: dữ liệu thô hai API trả về.
• vendors.json: giá neocloud, chép tay kèm URL nguồn và ngày đọc.
• compute.py: nhóm, chuẩn hóa theo từng hãng và tính khoảng chênh.
• compare.json: kết quả đầu ra.

Chạy python3 collect.py (chỉ mục AWS khoảng 1 GB, khá chậm) rồi python3 compute.py.

Hạn chế của báo cáo

Tác giả liệt kê rõ các giới hạn: chỉ dùng giá niêm yết on-demand, chưa tính giá reserved, committed-use và spot — vốn sẽ hạ con số của hyperscaler, đặc biệt spot làm khoảng cách thu hẹp đáng kể. Mỗi hãng chỉ lấy một vùng (AWS us-east-1, Azure eastus). Số lượng GPU lấy từ tài liệu nhà cung cấp chứ không từ nhãn giá, vì AWS ghi "640 GB HBM3" cho một máy p5 còn Azure ghi tổng bộ nhớ tăng tốc, cả hai đều không nêu model của từng GPU.

Lambda bị loại khỏi con số chênh chính vì trang giá công bố của họ ghi mức giá hiển thị có hiệu lực từ 16/11/2026, còn giá hiện tại nằm sau đăng nhập; các dòng của Lambda được hiển thị riêng có ghi chú. Cuối cùng, tác giả lưu ý: giá rẻ không tính đến khả năng có hàng — một chiếc H100 giá rẻ mà không thuê được thì không phải là một mức giá.

Góc nhìn

Với đội ngũ kỹ thuật và doanh nghiệp Việt Nam đang thuê GPU để huấn luyện hoặc tinh chỉnh mô hình, bảng giá này là lời nhắc rằng giá niêm yết của hyperscaler không phải giá tham chiếu duy nhất. Trước khi chọn nơi thuê, cần xác định mình thuộc nhóm nào: nếu chỉ chạy một node cho fine-tuning hay suy luận, phần lớn chi phí trả cho InfiniBand và SLA doanh nghiệp là lãng phí; nếu huấn luyện phân tán nhiều node, bỏ qua InfiniBand sẽ tốn kém hơn nhiều so với số tiền tiết kiệm trên hóa đơn.

Bài học thứ hai là cách đọc con số: phải so sánh trong cùng một nhóm model và dung lượng bộ nhớ, và phải tính cả khả năng thực sự lấy được máy. Một mức giá thấp trên trang web không có nghĩa là dung lượng sẵn có, nên khi lập kế hoạch ngân sách hạ tầng AI, nên hỏi thẳng nhà cung cấp về mức sẵn có và điều khoản cam kết thay vì chỉ dựa vào bảng giá công khai.