Osaurus: Ứng dụng Mac tích hợp cả AI cục bộ và đám mây, bảo vệ quyền riêng tư dữ liệu

Trong bối cảnh các mô hình trí tuệ nhân tạo (AI) ngày càng trở nên phổ biến và được thương mại hóa, các công ty khởi nghiệp đang chạy đua để xây dựng tầng phần mềm nằm trên cùng. Một cái tên đáng chú ý gia nhập cuộc chơi này là Osaurus — một máy chủ mô hình ngôn ngữ lớn (LLM) mã nguồn mở, dành riêng cho hệ sinh thái Apple.

Osaurus cho phép người dùng chuyển đổi linh hoạt giữa các mô hình AI khác nhau, chạy chúng trực tiếp trên máy (cục bộ) hoặc thông qua điện toán đám mây, đồng thời vẫn giữ toàn bộ tệp tin và công cụ hoạt động trên phần cứng riêng của người dùng.

Giao diện ứng dụng Osaurus

Từ ý tưởng về một trợ lý ảo cá nhân

Osaurus được phát triển dựa trên ý tưởng về một người bạn đồng hành trên máy tính tên là Dinoki. Theo Terence Pae — đồng sáng lập Osaurus, Dinoki được mô tả giống như một phiên bản "Clippy" được bổ sung sức mạnh AI. Tuy nhiên, khách hàng của Dinoki đã đặt câu hỏi tại sao họ phải mua ứng dụng nếu vẫn phải trả thêm phí cho token — đơn vị tính phí mà các công ty AI sử dụng cho việc xử lý câu lệnh và tạo phản hồi.

Điều này khiến Pae suy nghĩ sâu hơn về việc chạy AI cục bộ.

"Đó là cách Osaurus ra đời", Pae — cựu kỹ sư phần mềm tại Tesla và Netflix, chia sẻ trong một cuộc phỏng vấn. Ý tưởng là cố gắng chạy một trợ lý AI hoàn toàn tại chỗ. "Bạn có thể thực hiện gần như mọi thứ trên Mac của mình ở chế độ cục bộ, như duyệt tệp, truy cập trình duyệt, truy cập cấu hình hệ thống. Tôi nghĩ đây sẽ là một cách tuyệt vời để định vị Osaurus như một AI cá nhân dành cho từng cá nhân."

Pae đã bắt đầu xây dựng công cụ này dưới dạng một dự án mã nguồn mở, liên tục thêm tính năng và sửa lỗi.

Sự linh hoạt giữa cục bộ và đám mây

Hiện nay, Osaurus có thể kết nối linh hoạt với các mô hình AI được lưu trữ cục bộ hoặc các nhà cung cấp đám mây như OpenAI và Anthropic. Người dùng được tự do lựa chọn mô hình AI mình muốn sử dụng, đồng thời giữ các khía cạnh khác của trải nghiệm AI — như bộ nhớ của mô hình, tệp tin và công cụ — ngay trên phần cứng của chính họ.

Do mỗi mô hình AI có những thế mạnh riêng, lợi thế của hệ thống này là người dùng có thể chuyển sang mô hình AI phù hợp nhất với nhu cầu hiện tại.

Cấu trúc này biến Osaurus thành một "harness" (lớp điều khiển) kết nối các mô hình AI, công cụ và quy trình làm việc khác nhau thông qua một giao diện duy nhất, tương tự như các công cụ như OpenClaw hay Hermes. Tuy nhiên, sự khác biệt nằm ở chỗ các công cụ đó thường hướng tới các nhà phát triển đã quen thuộc với terminal. Đôi khi, như trường hợp của OpenClaw, chúng có thể tạo ra các lỗ hổng bảo mật cần lo ngại.

Ngược lại, Osaurus sở hữu giao diện dễ sử dụng dành cho người tiêu dùng phổ thông và giải quyết các lo ngại bảo mật bằng cách vận hành trong một sandbox ảo được cách ly phần cứng. Điều này giới hạn AI trong một phạm vi nhất định, giúp giữ an toàn cho máy tính và dữ liệu của bạn.

Các mô hình AI được hỗ trợ bởi Osaurus

Yêu cầu phần cứng và tương lai của AI cục bộ

Tất nhiên, việc chạy các mô hình AI trên máy của bạn vẫn còn ở những ngày đầu, do nó đòi hỏi nhiều tài nguyên và phụ thuộc nhiều vào phần cứng. Để chạy các mô hình cục bộ, hệ thống của bạn cần ít nhất 64 GB RAM. Đối với các mô hình lớn hơn như DeepSeek v4, Pae khuyến nghị hệ thống nên có khoảng 128 GB RAM.

Tuy nhiên, Pae tin rằng yêu cầu của AI cục bộ sẽ giảm dần theo thời gian.

"Tôi có thể nhìn thấy tiềm năng của nó, bởi vì chỉ số trí tuệ trên mỗi watt điện — thước đo cho AI cục bộ — đã tăng lên đáng kể. Nó đang đi trên một đường cong đổi mới riêng. Năm ngoái, AI cục bộ khó có thể hoàn thành câu nói, nhưng hôm nay nó thực sự có thể chạy công cụ, viết mã, truy cập trình duyệt của bạn và đặt hàng từ Amazon... nó ngày càng tốt hơn", ông nói.

Osaurus hiện có thể chạy các mô hình như MiniMax M2.5, Gemma 4, Qwen3.6, GPT-OSS, Llama, DeepSeek V4 và nhiều mô hình khác. Nó cũng hỗ trợ các mô hình cơ sở thiết bị (on-device) của Apple, gia đình mô hình LFM của Liquid AI. Trên nền tảng đám mây, nó có thể kết nối với OpenAI, Anthropic, Gemini, xAI/Grok, Venice AI, OpenRouter, Ollama và LM Studio.

Đóng vai trò là máy chủ MCP (Giao thức Ngữ cảnh Mô hình) đầy đủ, bạn có thể cấp quyền truy cập vào công cụ của mình cho bất kỳ máy khách tương thích MCP nào. Ngoài ra, ứng dụng còn đi kèm hơn 20 plugin gốc cho Mail, Lịch, Vision, sử dụng macOS, XLSX, PPTX, Trình duyệt, Nhạc, Git, Hệ thống tệp, Tìm kiếm, Fetch, v.v.

Gần đây, Osaurus đã được cập nhật để bổ sung khả năng xử lý giọng nói.

Tiềm năng cho doanh nghiệp và hiệu suất năng lượng

Kể từ khi dự án ra mắt gần một năm trước, nó đã được tải xuống hơn 112.000 lần, theo thống kê trên trang web của dự án.

Hiện tại, những người sáng lập Osaurus — bao gồm đồng sáng lập Sam Yoo — đang tham gia chương trình tăng tốc khởi nghiệp Alliance tại New York. Họ cũng đang cân nhắc các bước tiếp theo, có thể mang Osaurus đến với các doanh nghiệp, chẳng hạn như trong lĩnh vực pháp lý hoặc y tế, nơi chạy LLM cục bộ có thể giải quyết các lo ngại về quyền riêng tư dữ liệu.

Các tác nhân và sandbox bảo mật

Khi sức mạnh của các mô hình AI cục bộ ngày càng tăng, đội ngũ tin rằng điều này có thể làm giảm nhu cầu đối với các trung tâm dữ liệu AI.

"Chúng ta đang thấy sự tăng trưởng bùng nổ trong không gian AI, nơi [các nhà cung cấp AI đám mây] phải mở rộng quy mô bằng cách sử dụng trung tâm dữ liệu và cơ sở hạ tầng, nhưng chúng tôi cảm thấy mọi người thực sự chưa nhìn thấy giá trị của AI cục bộ", Pae nói. "Thay vì phụ thuộc vào đám mây, họ có thể thực sự triển khai một Mac Studio tại chỗ (on-prem), và nó sẽ tiêu thụ ít điện năng hơn đáng kể. Bạn vẫn có các khả năng của đám mây, nhưng bạn sẽ không phụ thuộc vào trung tâm dữ liệu để chạy AI đó", ông nói thêm.