Tích hợp Claude vào Apple Foundation Models: Gói Swift mới mở rộng khả năng AI cho nhà phát triển

Anthropic vừa giới thiệu một công cụ mới mang tên Claude for Foundation Models, một gói Swift (Swift package) giúp các nhà phát triển tích hợp mô hình ngôn ngữ Claude trực tiếp vào khung làm việc Foundation Models của Apple. Động thái này tạo ra cầu nối giữa sức mạnh tính toán của Claude và hệ sinh thái phần mềm của Apple, mang lại sự linh hoạt cao hơn cho các ứng dụng AI.

Cách thức hoạt động và tích hợp

Gói phần mềm này hoạt động bằng cách tuân thủ giao thức LanguageModel trong framework Foundation Models của Apple. Nhờ đó, các nhà phát triển có thể điều khiển Claude thông qua API LanguageModelSession — chính là API được sử dụng cho các mô hình trên thiết bị (on-device) của Apple.

Tất cả các tính năng quen thuộc như phản hồi (respond(to:)), truyền dữ liệu luồng (streaming), tạo sinh có hướng dẫn (guided generation) và gọi công cụ (tool calling) đều hoạt động giống hệt nhau. Điều này giúp việc chuyển đổi giữa mô hình trên thiết bị của Apple và Claude trở nên vô cùng mượt mà.

Bảo mật và Quyền riêng tư

Một điểm đáng chú ý là các yêu cầu từ ứng dụng sẽ được gửi trực tiếp đến API của Claude mà không đi qua đường dẫn của Apple. Điều này có nghĩa là Apple không thể thấy các câu lệnh (prompts) hay phản hồi của người dùng.

Chi phí sử dụng sẽ được tính toán dựa trên tài khoản Anthropic của nhà phát triển với mức giá API tiêu chuẩn. Ứng dụng có thể tự quyết định thời điểm sử dụng Claude và thời điểm sử dụng mô hình trên thiết bị của Apple bằng cách chuyển đổi đối tượng mô hình trong mỗi phiên làm việc.

Tính năng nổi bật

Gói này hiện đang ở giai đoạn Beta và nhắm đến API mô hình ngôn ngữ phía máy chủ được giới thiệu trong các bản beta OS 27. Dưới đây là một số tính năng chính:

• Đầu ra có cấu trúc (Structured Output): Cho phép mô hình trả về giá trị của một kiểu dữ liệu cụ thể thông qua tính năng tạo sinh có cấu trúc.
• Công cụ phía máy chủ (Server-side tools): Hỗ trợ các công cụ mạnh mẽ chạy trên cơ sở hạ tầng của Anthropic như tìm kiếm web, lấy dữ liệu web và thực thi mã, tất cả trong một vòng lặp yêu cầu duy nhất.
• Khả năng thị giác (Vision): Các mô hình có khả năng xử lý hình ảnh có thể nhận nội dung hình ảnh thông qua API phiên tiêu chuẩn của Apple.

Lưu ý về triển khai và bảo mật

Đối với việc xác thực, nhà phát triển có thể truyền trực tiếp API key trong quá trình phát triển. Tuy nhiên, Anthropic cảnh báo rằng việc nhúng key vào ứng dụng khi phát hành chính thức là rất rủi ro vì nó có thể bị trích xuất từ tệp nhị phân.

Vì vậy, đối với môi trường sản xuất (production), các nhà phát triển nên định tuyến yêu cầu thông qua máy chủ backend của riêng mình (sử dụng chế độ .proxied). Máy chủ trung gian này sẽ thêm tiêu đề x-api-key và chuyển tiếp yêu cầu đến https://api.anthropic.com, giúp ứng dụng không cần phải lưu trữ key bảo mật.

Gói phần mềm này được cấp phép theo Apache 2.0 và hiện đang chờ đợi sự đóng góp từ cộng đồng sau giai đoạn beta.