Perplexity bước vào cuộc chơi AI cục bộ: Giảm chi phí, bảo mật dữ liệu là trọng tâm

Perplexity, công ty nổi tiếng với công cụ tìm kiếm AI, vừa công bố bước đi mới trong chiến lược mở rộng của mình: tham gia vào lĩnh vực AI cục bộ (local AI). Động thái này không chỉ đánh dấu sự chuyển hướng khỏi mô hình đám mây tập trung mà còn phản ánh xu hướng ngày càng tăng trong ngành công nghệ nhằm tối ưu chi phí và bảo vệ dữ liệu người dùng.

Portable Computer: AI cục bộ từ Perplexity

Sau khi xây dựng nền tảng đám mây Computer dành cho các tác nhân AI (AI agents), Perplexity tiếp tục giới thiệu Portable Computer – một giải pháp chạy cục bộ bao gồm ba thành phần chính: bộ khung tác nhân (agent harness), bộ điều phối (orchestrator) và các mô hình AI chạy trên trạm làm việc Nvidia DGX Spark. Hệ thống này vẫn có khả năng kết nối với đám mây khi cần xử lý các tác vụ phức tạp hơn.

“Tiến bộ rõ rệt nhất ở các mô hình nhỏ và hiệu quả như Nvidia Nemotron 3.5 Lightning (30B tham số), Qwen 3.6 (35B) và Qwen 3.8 (27B). Những mô hình nhỏ này có sức mạnh vượt trội so với kích thước và hiện đủ khả năng xử lý các quy trình tác nhân phức tạp,” Perplexity chia sẻ.

Động cơ chiến lược: Chi phí và quyền riêng tư

Lý do chính khiến Perplexity theo đuổi AI cục bộ đến từ hai vấn đề lớn mà ngành công nghiệp đang đối mặt: chi phí API tăng cao và lo ngại về bảo mật dữ liệu.

• Tiết kiệm chi phí: Suy luận cục bộ giúp tránh các khoản phí per-token từ các nhà cung cấp API đám mây, mang lại lợi ích kinh tế đáng kể cho doanh nghiệp.
• Bảo mật dữ liệu: Thông tin nhạy cảm không cần truyền đến máy chủ từ xa, hoàn toàn nằm trong ranh giới thiết bị của người dùng.

Hình minh họa về giao diện webmail thể hiện các tác vụ trình duyệt mà Portable Computer có thể xử lý cục bộ

Vai trò của Nvidia và nghi vấn đầu tư 30 tỷ USD

Sự xuất hiện của Nvidia DGX Spark – một thiết bị AI mạnh mẽ – trong thông báo của Perplexity không phải ngẫu nhiên. Nvidia được cho là đang xem xét khoản đầu tư lên tới 30 tỷ USD vào Perplexity. Việc nhắc tên thương hiệu tới sáu lần trong một thông cáo khiến giới quan sát không khỏi đặt câu hỏi về mối quan hệ thân thiết giữa hai công ty.

Kết quả benchmark và vị thế cạnh tranh

Perplexity công bố kết quả so sánh Portable Computer với hai bộ khung tác nhân khác là Pi và Hermes. Kết quả cho thấy Portable Computer đạt hoặc vượt độ chính xác của hai đối thủ khi chạy Qwen 3.8 27B trên Nvidia DGX Spark, đồng thời nhanh nhất trên các bài kiểm tra BrowseComp và ParseBench-100, đồng thời sử dụng ít token nhất.

“Một mô hình mã nguồn mở tốt, phần cứng cục bộ đủ mạnh và bộ khung phù hợp có thể xử lý công việc tri thức thực tế với chi phí suy luận gần như bằng không mà không cần đưa dữ liệu nhạy cảm ra khỏi thiết bị.”

Góc nhìn cho thị trường Việt Nam

Xu hướng AI cục bộ đang ngày càng thu hút sự quan tâm tại Việt Nam, đặc biệt trong bối cảnh nhiều doanh nghiệp lo ngại về chi phí đám mây và yêu cầu bảo mật dữ liệu ngày càng nghiêm ngặt. Các mô hình ngôn ngữ nhỏ chạy trên phần cứng tầm trung mở ra cơ hội cho các công ty công nghệ Việt tiếp cận AI mà không phụ thuộc hoàn toàn vào hạ tầng nước ngoài.

Tuy nhiên, một câu hỏi quan trọng vẫn bỏ ngỏ: khi các bộ khung tác nhân như Pi và Hermes là miễn phí, Perplexity sẽ định giá Portable Computer như thế nào nếu khoản đầu tư từ Nvidia thành hiện thực? Câu trả lời sẽ quyết định sức hút của sản phẩm này trên thị trường vốn đề cao yếu tố chi phí.