Tiny Corp ra mắt Exabox: Máy chủ AI AMD nhằm thách thức sự thống trị của NVIDIA

Tiny Corp, công ty công nghệ nổi tiếng với framework tinygrad, vừa chính thức giới thiệu "Exabox" - một hệ thống máy chủ AI mới toanh được thiết kế đặc biệt để vận hành các mô hình trí tuệ nhân tạo lớn (LLM) trên nền tảng phần cứng của AMD.

Sự ra đời của Exabox được xem là một bước ngoặt trong nỗ lực đa dạng hóa thị trường phần cứng AI, nơi hiện đang bị thống trị bởi các sản phẩm của NVIDIA và công nghệ CUDA độc quyền.

Đặc điểm kỹ thuật và Hiệu năng

Exabox không chỉ là một chiếc máy chủ thông thường; nó được tích hợp sẵn GPU AMD dòng cao cấp cùng với một stack phần mềm được tối ưu hóa sẵn. Theo Tiny Corp, hệ thống này cho phép các nhà phát triển cài đặt và chạy các mô hình AI chỉ trong vài phút thay vì tốn hàng giờ cấu hình phức tạp như trên các hệ thống truyền thống.

"Mục tiêu của chúng tôi là mang lại sức mạnh tính toán AI cho mọi người mà không bị ràng buộc bởi sự phụ thuộc vào một nhà cung cấp duy nhất," - đại diện Tiny Corp nhấn mạnh tầm quan trọng của sự minh bạch trong hệ sinh thái phần cứng mới này.

Thách thức vị thế của NVIDIA

Thị trường AI hiện nay đang gặp khó khăn về sự khan hiếm GPU của NVIDIA cũng như chi phí đắt đỏ. Exabox của Tiny Corp ra đời như một giải pháp thay thế hứa hẹn về hiệu suất trên mỗi đồng chi phí (performance per dollar).

Bằng cách sử dụng AMD ROCm và framework tinygrad được viết lại để tối ưu hóa cho phần cứng này, Exabox hy vọng sẽ thu hút cộng đồng mã nguồn mở và các startup AI đang tìm kiếm giải pháp phần cứng linh hoạt hơn. Việc Tiny Corp kết hợp cả phần cứng và phần mềm cho thấy xu hướng tích hợp theo chiều dọc đang trở nên phổ biến trong cuộc đua AI, cạnh tranh trực tiếp với các gói giải pháp DGX của NVIDIA.