Nvidia chinh phục châu Âu bằng loạt mô hình trọng số mở mới

Nvidia đang đẩy mạnh chiến lược mở rộng thư viện mô hình trọng số mở nhằm khai thác nhu cầu về AI có chủ quyền tại châu Âu. Tại sự kiện GTC Berlin, hãng đã giới thiệu các mô hình embedding, phân tích tài liệu và xếp hạng lại thế hệ mới, cùng phiên bản xe tự hành Alpamayo cập nhật.

Điểm nhấn của đợt ra mắt này không chỉ nằm ở hiệu năng, mà còn ở cách Nvidia công bố mô hình: bên cạnh trọng số, hãng thường xuyên phát hành cả dữ liệu huấn luyện và quy trình tạo ra mô hình cuối cùng.

Embedding - "xương sống" thầm lặng của RAG

Các mô hình embedding tuy không phải loại "hào nhoáng" nhất nhưng lại cực kỳ hữu ích cho ứng dụng doanh nghiệp. Công nghệ RAG (Retrieval Augmented Generation) - vốn được ứng dụng rộng rãi cho tìm kiếm tăng cường bằng AI - phụ thuộc rất nhiều vào các vector embedding do những mô hình này tạo ra.

Về cơ bản, RAG hoạt động bằng cách chia nhỏ tài liệu thành từng đoạn, chuyển chúng thành các vector gọi là embedding, sau đó xếp hạng theo mức độ liên quan tới truy vấn của người dùng trước khi đưa vào ngữ cảnh của mô hình ngôn ngữ lớn (LLM).

Dòng mô hình embedding và xếp hạng lại mới của Nvidia dựa trên Nemotron 3.5, hỗ trợ cả hình ảnh và văn bản trên 34 ngôn ngữ. Lần này, các mô hình có kích thước từ 1 đến 8 tỷ tham số, kèm phiên bản lượng tử hóa NVFP4 dành cho các bộ tăng tốc dựa trên kiến trúc Blackwell. Kích thước này đủ nhỏ để chạy trên một thiết bị như DGX Spark mà vẫn dư chỗ cho các mô hình khác.

Nvidia tuyên bố ở độ chính xác BF16, mô hình embedding và xếp hạng lại 8 tỷ tham số của hãng đang đứng đầu bảng xếp hạng các mô hình dense trên bộ đánh giá ViDoRe V3.1. Tất nhiên, như mọi tuyên bố từ nhà cung cấp, người dùng nên đánh giá thêm trong bối cảnh thực tế.

Bài toán PDF và mô hình phân tích tài liệu

Không phải tài liệu nào cũng dễ chuyển đổi thành embedding. PDF nổi tiếng là định dạng khó xử lý khi thường được quét từ bản in và định dạng để đọc, buộc phải trích xuất văn bản và phân tích cả biểu đồ.

Để giải quyết, Nvidia ra mắt mô hình Nemotron Parse được huấn luyện riêng cho việc trích xuất thông tin từ PDF. Hãng cho biết phiên bản 1 tỷ tham số có thể xử lý khoảng 10,5 trang mỗi giây khi chạy trên một GPU H100 duy nhất.

Mở rộng sang xe tự hành và mô hình thị giác

Song song với dòng embedding, Nvidia triển khai Alpamayo 2 Edge - phiên bản gọn hơn của mô hình lái xe tự hành, hứa hẹn xử lý video và dữ liệu cảm biến dạng streaming theo thời gian thực trên nền tảng DRIVE AGX Thor.

Đợt ra mắt diễn ra chỉ một tuần sau khi hãng giới thiệu mô hình ngôn ngữ - thị giác Nemotron 3.5 Super và hé lộ Nemotron 3.5 Bolt - mô hình mixture of experts (MoE) 74 tỷ tham số được thiết kế vừa trong 24 GB VRAM. Mô hình này dự kiến cho phép tải về từ thứ Sáu.

Điểm khác biệt: minh bạch cả quy trình huấn luyện

Trong khi mô hình trọng số mở thường là "hộp đen" - ai cũng tải được nhưng dữ liệu và quy trình tạo ra trọng số thì bí ẩn - nhiều mô hình của Nvidia lại khác. Hãng thường công bố cả dữ liệu huấn luyện và công thức biến dữ liệu đó thành mô hình hoàn chỉnh.

Điều này cho phép khách hàng không chỉ kiểm tra mô hình ở mức thấp, mà còn xây dựng mô hình tùy chỉnh hoàn toàn dựa trên kiến trúc Nemotron, thay vì phải chỉnh sửa trọng số sau đó bằng fine-tuning.

Cách làm này không phải độc nhất - Viện Allen cũng áp dụng chiến lược tương tự với dòng mô hình OLMo. Nhưng với tiềm lực của mình, Nvidia đang biến sự minh bạch thành lợi thế cạnh tranh trong cuộc đua giành niềm tin của các doanh nghiệp và chính phủ châu Âu, những bên đặc biệt quan tâm tới vấn đề chủ quyền dữ liệu và AI.