Claude cho Foundation Models: Tích hợp AI của Anthropic vào hệ sinh thái Apple

Claude cho Foundation Models là một gói Swift mới mang đến khả năng tích hợp mạnh mẽ giữa mô hình ngôn ngữ Claude của Anthropic và nền tảng phát triển của Apple. Được thiết kế để hoạt động như một mô hình ngôn ngữ phía máy chủ (server-side language model) trong khung Foundation Models của Apple, gói phần mềm này giúp các nhà phát triển dễ dàng kết nối sức mạnh của Claude vào các ứng dụng macOS và iOS.

Gói này tuân thủ giao thức LanguageModel của Apple, nghĩa là bạn có thể điều khiển Claude bằng cách sử dụng cùng một API LanguageModelSession vốn được dùng cho các mô hình trên thiết bị của Apple. Điều này bao gồm các tính năng như phản hồi (respond(to:)), truyền phát luồng dữ liệu (streaming), tạo văn bản có hướng dẫn (guided generation) và gọi công cụ (tool calling).

Cách thức hoạt động và Tích hợp

Yêu cầu từ ứng dụng sẽ được gửi trực tiếp đến API của Claude mà không đi qua đường dẫn của Apple, đảm bảo rằng Apple không thể thấy các câu lệnh (prompts) hay phản hồi. Chi phí sử dụng sẽ được tính toán dựa trên tài khoản Anthropic của bạn với mức giá API tiêu chuẩn.

Một điểm nổi bật là khả năng linh hoạt trong việc lựa chọn mô hình. Ứng dụng của bạn có thể quyết định khi nào sử dụng Claude và khi nào sử dụng mô hình trên thiết bị của Apple bằng cách chuyển đổi đối tượng mô hình cho mỗi phiên làm việc (session).

"Mô hình trên thiết bị của Apple nhanh, riêng tư và hoạt động ngoại tuyến, nhưng được tối ưu hóa cho các tác vụ nhẹ. Bạn có thể chuyển sang Claude khi cần ngữ cảnh lớn hơn, suy luận biên giới (frontier reasoning) hoặc các công cụ phía máy chủ như tìm kiếm web và thực thi mã."

Các tính năng chính

Gói phần mềm này hiện đang ở giai đoạn Beta và nhắm đến API mô hình ngôn ngữ phía máy server được giới thiệu trong các phiên bản beta OS 27. Dưới đây là một số tính năng quan trọng:

• Hỗ trợ đầy đủ API: Sử dụng ClaudeLanguageModel làm điểm nhập chính và truyền nó vào LanguageModelSession.
• Cấu hình linh hoạt: Hỗ trợ các tham số như baseURL, timeout và serverTools.
• Định danh mô hình: Các giá trị của ClaudeModel phản ánh các ID mô hình API (ví dụ: .opus4_8 tương ứng với claude-opus-4-8) và mang theo các khả năng của từng mô hình.
• Mức độ nỗ lực (Effort Levels): Cho phép cố định mức độ nỗ lực cho mọi yêu cầu, bao gồm các mức .xhigh hoặc .max mà khung của Apple không hỗ trợ mặc định.

Bảo mật và Xác thực

Về vấn đề bảo mật, các nhà phát triển được khuyến cáo mạnh mẽ không nên nhúng khóa API trực tiếp vào ứng dụng khi phát hành sản phẩm, vì khóa này có thể bị trích xuất từ tệp binary. Thay vào đó, hãy sử dụng chế độ .apiKey chỉ cho mục đích phát triển và chuyển sang .proxied cho môi trường sản xuất.

Chế độ .proxied cho phép định tuyến yêu cầu thông qua máy chủ backend của riêng bạn. Máy chủ trung gian này sẽ thêm tiêu đề x-api-key và chuyển tiếp yêu cầu đến https://api.anthropic.com, giúp ứng dụng không cần phải chứa bất kỳ khóa bảo mật nào.

Công cụ phía máy chủ và Khả năng mở rộng

Gói phần mềm này hỗ trợ các công cụ phía máy chủ (server tools) như tìm kiếm web (web search), lấy dữ liệu web (web fetch) và thực thi mã (code execution). Các công cụ này chạy trên cơ sở hạ tầng của Anthropic trong một lượt truy vấn duy nhất, không yêu cầu khung công tác gọi bất kỳ thứ gì trên thiết bị.

Ngoài ra, gói còn hỗ trợ đầu vào hình ảnh (vision) cho các mô hình có khả năng này, cũng như xử lý lỗi bằng cách ánh xạ các lỗi của API Claude sang các trường hợp LanguageModelError của Apple, giúp việc xử lý luồng ứng dụng trở nên thuận tiện hơn.

Claude cho Foundation Models được cấp phép theo Apache 2.0 và hiện đang chờ đón các báo cáo lỗi qua GitHub Issues trong giai đoạn beta.