Amazon ra đòn lớn nhất vào Nvidia với công cụ TorchNeuron

Amazon Web Services (AWS) vừa công bố TorchNeuron, một công cụ cho phép các startup AI dễ dàng chuyển ứng dụng của mình sang Trainium – dòng chip AI do chính Amazon phát triển. Động thái này đánh dấu lần ra đòn trực diện nhất của Amazon vào lợi thế phần mềm mà Nvidia đã dày công xây dựng để trở thành lựa chọn phần cứng mặc định cho các ứng dụng AI.

Chỉ cần đổi một dòng cấu hình

TorchNeuron hoạt động song hành với PyTorch, bộ công cụ mã nguồn mở miễn phí mà lập trình viên dùng để xây dựng, huấn luyện và vận hành các mô hình AI. Theo Amazon, công cụ này cho phép ứng dụng viết bằng PyTorch chạy trên Trainium chỉ bằng việc thay đổi một dòng cấu hình, không cần viết lại mã nguồn.

Amazon cho biết khoảng 85% ứng dụng AI hiện nay được viết bằng PyTorch. Meta là đơn vị khởi tạo framework này, nhưng từ năm 2022, PyTorch đã thuộc về Linux Foundation – tổ chức quản lý các dự án mã nguồn mở.

Trong nhiều năm, Nvidia đã đảm bảo CUDA – hạ tầng phần mềm giúp ứng dụng chạy trên GPU và các phần cứng khác của hãng – hỗ trợ mượt mà các ứng dụng AI viết bằng PyTorch. Kết quả là phần cứng của Nvidia hiện gần như gắn chặt mặc định vào bộ công cụ này.

Không phải người đầu tiên, nhưng là đòn đánh có tính toán

Amazon không phải doanh nghiệp đầu tiên tìm cách đưa chip của mình lên nền tảng này. Người dùng PyTorch vốn đã có thể chuyển ứng dụng sang GPU của AMD hoặc thậm chí chip của Apple chỉ với một thay đổi cấu hình đơn giản.

Tuy vậy, Amazon lập luận rằng chuyển sang Trainium không chỉ dễ dàng mà còn mở ra toàn bộ hệ sinh thái cloud của hãng. Đương nhiên, AWS khẳng định đây là lựa chọn tốt hơn cho startup so với việc dùng các neocloud – nhiều dịch vụ trong số đó gắn chặt với Nvidia và phần cứng của hãng như Coreweave, Nebius hay Firmus.

"Bạn đang xây dựng trên AWS. Bạn không đặt cược vào một nhà cung cấp tính toán đơn mục đích rồi phải loay hoay dựng mọi thứ khác xung quanh nó. Trên AWS, hạ tầng để đi từ nguyên mẫu đến môi trường vận hành đã có sẵn, giúp nhà sáng lập di chuyển nhanh và mở rộng khi cần."

Đó là chia sẻ của Colin Brace, Phó Chủ tịch mảng Phần mềm Công nghệ tại AWS Annapurna Labs – đơn vị chế tạo chip tùy chỉnh của Amazon – trong trao đổi với TechCrunch.

AWS còn nhấn mạnh rằng cùng một con chip vừa đảm nhận huấn luyện (dạy mô hình AI) vừa xử lý suy luận (đưa mô hình đã hoàn thiện vào vận hành, chẳng hạn khi trả lời câu hỏi người dùng), lại được tích hợp chặt với hạ tầng cloud mà startup cần. Nhờ đó, theo Amazon, nền tảng của họ sẽ giúp tiết kiệm chi phí, kể cả khi AWS không đưa ra mức giá trên mỗi token rẻ nhất.

Brace dẫn chứng trường hợp Deepgram – nhà cung cấp ứng dụng giọng nói AI, đối thủ của ElevenLabs – đã chuyển sang Trainium nhờ PyTorch gốc và hiện xử lý được lượng âm thanh nhiều hơn 70% trên mỗi đô la với độ chính xác đạt chuẩn vận hành.

Tham vọng lớn hơn cả Trainium

Amazon không dừng lại ở việc cung cấp một lựa chọn dễ dàng cho lập trình viên PyTorch muốn chuyển lên cloud của mình. Hãng còn tuyên bố đang thúc đẩy để PyTorch bớt tự động xoay quanh Nvidia, đồng thời sẽ đóng góp mã nguồn cho mục tiêu đó vào dự án PyTorch chính thức.

Trong bài blog công bố công cụ mới, Amazon viết rằng họ đang đóng góp các thay đổi lên PyTorch, phối hợp với cộng đồng để loại bỏ những đoạn mã gắn framework với các chip cụ thể. Mục tiêu là biến PyTorch thành nền tảng trung lập với phần cứng cho toàn bộ cộng đồng lập trình viên, chứ không riêng người dùng Trainium.

Chiến lược này đương nhiên có lợi cho những ai đang bán phần cứng và dịch vụ cloud cạnh tranh với Nvidia. Tuy nhiên, một trong những mục đích cốt lõi của PyTorch là che giấu những phức tạp khi đưa mã AI chạy trên phần cứng. Liệu việc đẩy Nvidia ra xa như vậy sẽ mang lại cho lập trình viên nhiều lựa chọn và mức giá phải chăng hơn như Amazon hứa hẹn, hay chỉ tạo thêm những rắc rối về cấu hình – điều này còn phải chờ thời gian trả lời.

Ý nghĩa với thị trường AI và người dùng Việt Nam

Dù kết quả ra sao, nếu Amazon thành công trong việc tách PyTorch khỏi Nvidia, tác động có thể lớn hơn nhiều so với việc chỉ cạnh tranh chip. Như Brace nói:

"Câu chuyện thực sự là loại bỏ sự ràng buộc đã khiến lập trình viên không có lựa chọn thực sự nào."

Với các đội ngũ phát triển AI tại Việt Nam – đặc biệt là các startup tận dụng hạ tầng cloud nước ngoài để tối ưu chi phí – một PyTorch trung lập hơn với phần cứng có thể mở ra cơ hội lựa chọn giữa Nvidia, AMD, Trainium hay các nền tảng khác. Điều này không chỉ ảnh hưởng đến chi phí huấn luyện và suy luận mô hình mà còn đến cách các doanh nghiệp thiết kế kiến trúc hạ tầng AI dài hạn.

Cuộc đối đầu giữa Amazon và Nvidia vì thế không chỉ là câu chuyện chip, mà là cuộc chiến giành quyền kiểm soát lớp phần mềm – nơi quyết định lập trình viên sẽ chạy ứng dụng AI của mình trên nền tảng nào trong nhiều năm tới.