VMware mượn thương hiệu 'AI Factory' quen thuộc của Nvidia để xây dựng nền tảng dùng chip AMD

Trong nhiều năm, Nvidia đã theo đuổi ý tưởng về một “AI Factory” (Nhà máy AI). Giờ đây, đối tác lâu năm của họ là VMware lại ra mắt một sản phẩm mang cùng tên gọi với phần lớn tính năng tương tự, nhưng có một điểm khác biệt vô cùng quan trọng: sản phẩm này chạy trên phần cứng của AMD.

Bối cảnh hợp tác và cạnh tranh

VMware từng là một trong những đơn vị tiên phong ủng hộ Nvidia trong lĩnh vực doanh nghiệp. Họ đã tạo ra các công cụ ảo hóa GPU từ rất sớm. Vào thời điểm đó, sự hỗ trợ này rất cần thiết vì phần cứng của Nvidia cực kỳ đắt đỏ ngay cả trước thời kỳ bùng nổ AI tạo sinh. Việc sử dụng ảo hóa để tăng tỷ lệ sử dụng tài nguyên là một lựa chọn hợp lý. Hai công ty duy trì mối quan hệ chặt chẽ và vào năm 2023, họ đã kết hợp công bố gói sản phẩm “VMware Private AI Foundation with Nvidia”.

Gói sản phẩm này bao gồm vô số công cụ cần thiết để chạy khối lượng công việc suy luận (inference), cùng các công cụ giúp bộ phận AI tự động hóa và quản lý chúng.

Ngay sau đó, Nvidia bắt đầu quảng bá mạnh mẽ khái niệm “AI Factories” - một kiến trúc tham chiếu mô tả toàn bộ phần cứng và phần mềm cần thiết để vận hành các tác vụ suy luận. Các nhà sản xuất máy chủ lớn như Dell, Lenovo, HPE cũng nhanh chóng sử dụng thương hiệu này cho các giải pháp của họ.

VMware AI Factory: Bước tiến mới với AMD

Tại hội nghị VMware Explore diễn ra vào thứ Hai, bộ phận ảo hóa của Broadcom đã công bố phiên bản AI Factory của riêng mình. Theo công bố, nền tảng này “hợp lý hóa việc quản lý hạ tầng AI bằng cách tự động hóa hoàn toàn việc cung cấp phần cứng, kích hoạt phần mềm và quản lý vòng đời đầu cuối”.

Nghe có vẻ giống hệt với những gì Private AI Foundation từng làm, nhưng thực chất đây là một phiên bản kế nhiệm được đổi tên và bổ sung thêm một số công nghệ hữu ích. Điểm nhấn đáng chú ý nhất là khả năng triển khai một mô hình duy nhất và chia sẻ nó một cách an toàn cho nhiều người dùng, chẳng hạn như các đối tác thuê bao hoặc các bộ phận kinh doanh khác nhau.

Trong bối cảnh nhu cầu về AI đang rất nóng, điều này mang lại lợi ích thiết thực: các tổ chức sẽ không cần phải đầu tư phần cứng riêng cho từng nhóm AI. Điều này giúp tiết kiệm chi phí đáng kể và giúp bộ phận IT kiểm soát một cụm hạ tầng AI tập trung thay vì phải xử lý các giải pháp AI bị phân mảnh.

VMware cũng tích hợp các công cụ cho phép tổ chức sử dụng hạ tầng AI cả tại chỗ (on-prem) lẫn trên đám mây, đồng thời có khả năng tự động xác định nơi chạy tác vụ và lựa chọn mô hình phù hợp để tối ưu chi phí. Đây là một điểm cộng lớn khi chi phí AI trên đám mây có thể tăng chóng mặt, và việc sử dụng một mô hình ngôn ngữ lớn (LLM) trong khi một mô hình nhỏ hơn, chuyên biệt hơn có thể hoàn thành công việc với chi phí thấp hơn là điều lãng phí.

Nền tảng này cũng cung cấp hộp cát AI an toàn (sandbox) và các công cụ quản trị để đảm bảo các tác nhân AI không vượt quá thẩm quyền hoặc truy cập vào tài nguyên không được phép.

Điểm khác biệt mang tên AMD

Điểm thú vị nhất là VMware AI Factory yêu cầu phải có VCF và chạy trên các máy chủ từ Cisco, Dell Technologies, Lenovo và Supermicro. Tuy nhiên, Broadcom đã hợp tác với AMD để tạo ra một phiên bản VMware AI Factory tương thích với GPU AMD Instinct và hệ sinh thái phần mềm mã nguồn mở ROCm.

Hiện tại, VMware AI Factory không áp dụng cho các AI Factories của Nvidia, mặc dù cả hai có chung một số thành phần và ý định. Trao đổi với The Register, ông Prashanth Shenoy, Phó Chủ tịch tiếp thị sản phẩm của bộ phận VCF tại Broadcom, nhấn mạnh rằng VMware AI Factory là sự “tiến hóa” của VMware Private AI Foundation with Nvidia.

“VMware AI Factory đại diện cho một hệ thống vận hành tự động, toàn diện được thiết kế để coi việc tạo token AI như một quy trình sản xuất liên tục,” ông Shenoy cho biết, đồng thời lưu ý rằng nền tảng này hỗ trợ “nhiều kiến trúc tăng tốc và chuỗi công cụ AI” và Nvidia vẫn là “mối quan hệ đối tác GPU lâu năm nhất” của họ.

VMware chưa loại trừ khả năng xây dựng một AI Factory dành riêng cho Nvidia trong tương lai. Nhưng hiện tại, gã khổng lồ ảo hóa đã mượn tên sản phẩm của đối tác lâu năm để tạo ra một sản phẩm mang tính cạnh tranh, ủng hộ đối thủ mạnh nhất của Nvidia – tất cả nhằm mục đích giảm hóa đơn AI cho khách hàng.

Đây không phải là ví dụ duy nhất về mối quan hệ “cạnh tranh - hợp tác” kỳ lạ tại VMware Explore năm nay. Ngay trong ngày đầu tiên của hội nghị, The Register đã trò chuyện với các đại biểu từ Red Hat – hãng cạnh tranh với VMware bằng OpenShift Virtualization nhưng vẫn hợp tác vì một số khách hàng chạy OpenShift bên trong VMware – và cả Microsoft, hãng cung cấp dịch vụ VMware trên đám mây cùng nhiều sản phẩm cạnh tranh trực tiếp.