Salesforce và Nvidia ra mắt mô hình suy luận Koa: Lời cảnh tỉnh cho các phòng thí nghiệm AI

Salesforce vừa gây chú ý tại hội nghị Dreamforce khi công bố Koa, mô hình AI suy luận đầu tiên của hãng, được phát triển dựa trên nền tảng Nemotron mã nguồn mở của Nvidia. Đây được xem là bước đi chiến lược đánh dấu sự chuyển hướng của doanh nghiệp lớn khỏi các mô hình AI độc quyền từ những phòng thí nghiệm hàng đầu.

Koa là gì và có gì đặc biệt?

Koa là mô hình suy luận đầu tiên do Salesforce tự phát triển, kết quả từ sự hợp tác chặt chẽ với Nvidia. Hai công ty đã cùng nhau hậu huấn luyện (post-train) mô hình này để đạt hiệu suất cao trong các tác vụ liên quan đến bán hàng, tiếp thị và chăm sóc khách hàng.

Điểm khác biệt cốt lõi của Koa nằm ở chỗ nó phục vụ nhu cầu cụ thể của doanh nghiệp, thay vì cố gắng giải những bài toán siêu phức tạp như các mô hình tiên tiến (frontier model) thường làm. Theo ông Jayesh Govindarajan, Phó chủ tịch điều hành mảng AI của Salesforce, chia sẻ với TechCrunch:

"Chúng tôi đã xây dựng nhiều mô hình ngôn ngữ nhỏ chuyên biệt theo tác vụ, nằm trong danh mục sản phẩm của Agentforce. Nhưng suy luận (reasoning) luôn là điều mà chúng tôi phải phụ thuộc vào các nhà cung cấp mô hình tiên tiến. Cho đến tận bây giờ."

Lợi ích dành cho khách hàng doanh nghiệp

Với Koa, Salesforce đang mang đến cho khách hàng doanh nghiệp một loạt lợi thế quan trọng:

• Lựa chọn mã nguồn mở thay thế cho các mô hình độc quyền đóng kín
• Mô hình được huấn luyện cho tác vụ cụ thể như bán hàng, tiếp thị, chăm sóc khách hàng
• Không sử dụng dữ liệu khách hàng thực tế trong quá trình huấn luyện, do đó không có nguy cơ rò rỉ dữ liệu
• Tiết kiệm chi phí AI nhờ sử dụng ít token hơn cho cùng một khối lượng công việc
• Định tuyến tự động qua cổng AI (AI gateway) tùy theo nhu cầu
• Tuân thủ đầy đủ các yêu cầu về dữ liệu và bảo mật của khách hàng, được tích hợp sẵn trong hệ thống Salesforce

Koa sẽ được cung cấp như một lựa chọn thay thế cho các mô hình khác trong nền tảng Agentforce, nơi khách hàng xây dựng các tác nhân AI (AI agent) để xử lý những công việc lặp đi lặp lại như trả lời câu hỏi chăm sóc khách hàng hoặc đặt lịch hẹn.

Chiến lược đằng sau Koa: Tại sao không dùng Qwen hay Claude?

Trước khi có Koa, nếu một tác nhân AI cần suy luận qua một tác vụ dài hoặc nhiều bước, các yêu cầu đó sẽ được định tuyến đến mô hình tiên tiến như Claude hoặc ChatGPT thông qua cổng AI của Agentforce. Đây chính là hệ thống quyết định mô hình nào xử lý yêu cầu nào.

Ông Govindarajan giải thích lý do Salesforce chưa từng tự huấn luyện mô hình tiên tiến cấp doanh nghiệp trước đây:

"Một trong những lý do chúng tôi chưa làm điều này sớm hơn — huấn luyện mô hình tiên tiến cấp doanh nghiệp của riêng mình — là vì luôn thiếu một mô hình nền tảng đã được huấn luyện trước để bắt đầu. Cho đến khi Nemotron xuất hiện, chưa có mô hình Mỹ nào vừa có chủ quyền, vừa đạt trình độ tiên tiến, lại vừa có nguồn gốc dữ liệu rõ ràng. Chúng tôi không biết Qwen được huấn luyện trên dữ liệu gì."

Đây là điểm đáng chú ý: Salesforce dường như muốn nhấn mạnh yếu tố chủ quyền dữ liệu và nguồn gốc dữ liệu minh bạch như một lợi thế cạnh tranh so với các mô hình mã nguồn mở đến từ Trung Quốc như Qwen của Alibaba.

Huấn luyện bằng dữ liệu tổng hợp — Không đụng đến dữ liệu khách hàng

Để biến Nemotron từ một mô hình đa năng thành một hệ thống am hiểu sâu sắc về bán hàng và chăm sóc khách hàng, Salesforce và Nvidia không sử dụng bất kỳ dữ liệu thực tế nào từ khách hàng. Thay vào đó, họ tạo ra dữ liệu tổng hợp (synthetic data) mô phỏng các mẫu hành vi của khách hàng.

Ông Govindarajan mô tả quá trình này:

"Chúng tôi thực sự mô phỏng một môi trường dịch vụ khách hàng với các nhân vật đóng vai chuyên gia chăm sóc khách hàng, bao gồm cả những khách hàng giận dữ gọi đến trung tâm, cho đến một chuyên viên bán hàng đang cố gắng chốt thương vụ."

Cách tiếp cận này giúp Koa vừa đạt được hiệu suất cao trong các tác vụ thực tế, vừa đảm bảo tuyệt đối an toàn về dữ liệu — một yếu tố cực kỳ quan trọng đối với khách hàng doanh nghiệp.

Hiệu quả token: "Bộ ba" mà Nvidia nhắm đến

Bà Kari Ann Briski, Phó chủ tịch mảng Phần mềm AI tạo sinh cho Doanh nghiệp của Nvidia, chia sẻ với TechCrunch:

"Với Nemotron, chúng tôi có một kiến trúc suy luận độc đáo giúp tiết kiệm token. Đó gần như là bộ ba yếu tố cần thiết: AI có chủ quyền, thời gian tạo token đầu tiên nhanh, và suy luận hiệu quả — tất cả vì lợi ích kinh tế của token."

Koa được thiết kế để vừa giỏi hơn trong các tác vụ mà khách hàng Salesforce muốn tác nhân AI thực hiện, vừa rẻ hơn về số token tiêu thụ so với việc gửi cùng tác vụ đó đến Claude hay ChatGPT.

Không từ bỏ Anthropic hay OpenAI

Đáng chú ý là Salesforce không hề đoạn tuyệt với các đối tác mô hình tiên tiến. Công ty vừa công bố quan hệ hợp tác với Anthropic mang tên ClaudeForce, cho phép doanh nghiệp sử dụng Claude làm giao diện AI trong khi dữ liệu vẫn nằm trong hệ thống lưu trữ của Salesforce, được bảo vệ bởi hạ tầng của chính hãng.

Chiến lược này cho thấy Salesforce đang xây dựng một hệ sinh thái đa mô hình, nơi khách hàng có thể lựa chọn giữa mô hình mã nguồn mở chuyên biệt (Koa), mô hình tiên tiến bên ngoài (Claude, ChatGPT), hoặc các mô hình nhỏ chuyên tác vụ — tất cả được quản lý qua cổng AI của Agentforce.

Ý nghĩa đối với thị trường AI doanh nghiệp

Sự ra đời của Koa phản ánh một xu hướng quan trọng: nhu cầu AI của thế giới doanh nghiệp đang ngày càng tách khỏi những gì các phòng thí nghiệm tiên tiến cung cấp. Các phòng thí nghiệm độc quyền muốn doanh nghiệp tải tệp, mã nguồn, câu lệnh và phản hồi trực tiếp vào mô hình của họ — và chi hàng triệu đô la để làm điều đó.

Trong khi đó, các doanh nghiệp như Salesforce đang chọn con đường khác: mô hình mã nguồn mở, huấn luyện chuyên biệt, chi phí thấp hơn, và kiểm soát dữ liệu hoàn toàn. Đây có thể là lời cảnh tỉnh cho các phòng thí nghiệm AI hàng đầu, khi mà những khách hàng lớn nhất của họ bắt đầu tự xây dựng giải pháp thay thế.

Đối với thị trường công nghệ Việt Nam, xu hướng này đặc biệt đáng chú ý khi ngày càng nhiều doanh nghiệp trong nước quan tâm đến việc ứng dụng AI nhưng vẫn lo ngại về chi phí và bảo mật dữ liệu. Việc các mô hình mã nguồn mở ngày càng mạnh mẽ và được tối ưu cho tác vụ cụ thể có thể mở ra cơ hội cho các doanh nghiệp Việt Nam xây dựng giải pháp AI riêng với chi phí hợp lý hơn.