NVIDIA ra mắt NVKE chạy Kubernetes trên hạ tầng GPU riêng

NVIDIA vừa giới thiệu NVIDIA Kubernetes Engine (NVKE), một dự án mã nguồn mở cho phép các đội ngũ platform (platform team) tự dựng dịch vụ Kubernetes được quản lý ngay trên hạ tầng GPU của chính mình. Điểm đáng chú ý là NVKE không phải một bản phân phối Kubernetes, mà đóng vai trò "nhà máy" tự vận hành để tạo ra nhiều cụm Kubernetes độc lập theo yêu cầu.

Huy hiệu giấy phép Apache 2.0

NVKE hoạt động thế nào

Theo mô tả của dự án, NVKE cung cấp mặt phẳng quản lý (management plane) mà đội ngũ platform cài đặt để tạo và vận hành các cụm Kubernetes cho khách hàng của họ. Mỗi cụm công việc (workload cluster) có control plane, etcd và các node pool riêng. Người vận hành quản lý mặt phẳng NVKE, còn khách hàng truy cập cụm của mình qua API Kubernetes và kubectl.

Cụ thể, NVKE thực hiện các nhiệm vụ:

• Tạo cụm công việc độc lập: yêu cầu cụm qua API NVKE hoặc công cụ nvkectl; NVKE cấp phát máy thông qua NVIDIA Infra Controller (NICo) rồi dựng cụm Kubernetes với control plane riêng.
• Quản lý vòng đời cụm: tạo, mở rộng và xóa node pool, nâng cấp Kubernetes, thay thế node.
• Xác thực danh tính node: các node chứng thực qua SPIFFE/SPIRE bằng TPM trước khi nhận thông tin đăng nhập tham gia cụm; hỗ trợ mã hóa dữ liệu etcd theo từng cụm.
• Kết nối build với triển khai: dự án đồng hành NVIDIA Kubernetes Recipes (NVKR) chịu trách nhiệm build node image và các thành phần NVKE từ đầu vào được ghim phiên bản, còn NVKE triển khai các sản phẩm đó.

Về kiến trúc, một bản cài đặt gồm hai loại cụm: cụm quản lý (management cluster) chạy mặt phẳng NVKE và các controller hạ tầng, được nvkectl dựng lên qua một cụm seed tạm thời; và cụm công việc chạy ứng dụng của khách hàng. Mặt phẳng quản lý tạo và vận hành các cụm này thông qua NICo, Cluster API và node agent.

Sơ đồ sản phẩm NVKE

Trạng thái preview và những giới hạn cần lưu ý

NVKE hiện ở trạng thái preview, nghĩa là API, cấu hình và hành vi có thể thay đổi giữa các bản phát hành. NVIDIA nói rõ không khuyến nghị dùng NVKE cho khối lượng công việc production.

Một số hạn chế được nêu trong tài liệu:

• Cần cấu hình vận hành rõ ràng: sau khi cài đặt, xác thực API đang tắt và API dùng HTTP thường, buộc người vận hành phải tự bật xác thực và bảo vệ truy cập trước khi cho phép người gọi.
• Cụm quản lý không tự nâng cấp, mở rộng hay thay thế chính nó; chưa có quy trình nâng cấp hay sao lưu/phục hồi cho mặt phẳng quản lý.
• Node image FDE chỉ dành cho đánh giá và không đảm bảo tính bảo mật dữ liệu khi lưu trữ.
• NICo là nhà cung cấp hạ tầng duy nhất tương thích ở giai đoạn preview.

Bắt đầu dùng thử

Người dùng có thể đánh giá NVKE mà không cần phần cứng GPU thông qua local quickstart, chạy trên máy Linux hoặc VM (amd64 hoặc arm64) với tối thiểu 6 CPU, 12 GiB bộ nhớ trống và 100 GiB dung lượng đĩa, cùng Docker và hỗ trợ TPM ảo. Trên macOS, có thể chạy bản đánh giá bên trong máy ảo Colima.

Với bản cài đặt thực tế, người dùng phải tự cung cấp máy, mạng, node image, registry và cấu hình truy cập NICo.

Về mã nguồn, dự án build bằng Go 1.27.3 và GNU Make 4 trở lên:

git clone https://github.com/dsx-ai-factory/nvke.git
cd nvke
make build

Lệnh này tạo ra chín binary trong thư mục bin/, gồm agent, updater, controller, nvkectl, capd-reboot-controller, nvke-os-image-check, management-engine, tenant-api và operator-api.

Huy hiệu phiên bản Go

Dự án phát hành theo giấy phép Apache 2.0, bản quyền thuộc NVIDIA, và tiếp nhận đóng góp qua GitHub cùng kênh Slack của DSX AI Factory.

Góc nhìn

NVKE cho thấy NVIDIA đang mở rộng từ lớp phần cứng sang lớp vận hành phần mềm, hướng tới các tổ chức tự sở hữu cụm GPU và muốn giữ quyền kiểm soát dữ liệu lẫn hạ tầng thay vì phụ thuộc hoàn toàn vào dịch vụ cloud bên ngoài. Với đội ngũ platform tại Việt Nam đang vận hành máy chủ GPU nội bộ, đây là hướng đáng theo dõi để giảm công sức dựng và quản lý cụm Kubernetes thủ công.

Tuy nhiên, vì đang ở preview, chưa có cơ chế nâng cấp mặt phẳng quản lý hay sao lưu, lại phụ thuộc duy nhất vào NICo, NVKE phù hợp hơn cho môi trường thử nghiệm và đánh giá kiến trúc. Các doanh nghiệp nên cân nhắc kỹ trước khi đưa vào vận hành thực tế và cần chủ động bật xác thực, bảo vệ API ngay sau khi cài đặt.