ZeroDrift huy động 10 triệu USD để xây dựng hệ thống kiểm soát tuân thủ cho AI

Khi các doanh nghiệp tìm cách khắc phục sự cố trong hệ thống AI của mình, quản trị (governance) đã trở thành một thách thức lớn. Một số đơn vị đang áp dụng phương pháp kép: sử dụng một mô hình để xử lý các truy vấn đến, trong khi một mô hình thứ hai giữ vai trò ngăn chặn mô hình đầu tiên gặp rắc rối.

Đây chính là tiền đề của ZeroDrift, một dịch vụ tuân thủ AI mới vừa công bố vòng gọi vốn hạt giống (seed round) trị giá 10 triệu USD vào thứ Ba vừa qua. Trong số các nhà đầu tư có a16z Speedrun, Reign Ventures, PitchDrive Ventures và U&I Ventures. Công ty tập trung hoàn toàn vào phần thứ hai của hệ thống, đặt mình giữa các mô hình AI và người dùng cuối để gắn cờ và thay thế bất kỳ thông điệp nào có thể gây ra vấn đề về tuân thủ.

Kiến trúc ưu việt hơn so với LLM thông thường

Việc xây dựng một hệ thống AI để sửa lỗi cho các hệ thống AI khác có vẻ kỳ lạ, nhưng hệ thống sửa lỗi của ZeroDrift có một số lợi thế về kiến trúc so với các mô hình mà nó sửa chữa. Hệ thống được kích hoạt bởi các chương trình thông thường áp dụng các tiêu chuẩn tuân thủ đã biết như SOC 2 hoặc GDPR một cách xác định (deterministically). Mô hình ngôn ngữ lớn (LLM) chỉ can thiệp khi một thông điệp bị gắn cờ, viết lại một phiên bản tuân thủ của cùng thông điệp đó.

"Chúng tôi có khả năng xác định một cách xác định tất cả các lĩnh vực được điều chỉnh, vi phạm nào đang bị phá vỡ, và sau đó chúng tôi sử dụng LLM để thực hiện việc viết lại," ông Aroomoogan cho biết.

Quan trọng hơn, toàn bộ hệ thống có thể hoạt động với độ trễ thấp hơn và độ tin cậy cao hơn so với một LLM thông thường. Đây là lợi thế chính của công ty so với các phòng thí nghiệm lớn như OpenAI và Anthropic, những nơi thường đã hiện diện trong hệ thống cơ bản.

Tiềm năng thị trường và nhu cầu đầu tư

Trường hợp sử dụng rõ ràng nhất là cho các chatbot AI, vốn đã được triển khai trước mặt người tiêu dùng, nơi có thể có những hậu quả nghiêm trọng đối với các câu trả lời "đi lạc" (rogue). Tuy nhiên, ông Aroomoogan nhìn thấy tổng thị trường có thể tiếp cận (TAM) lớn hơn nhiều, có thể bao gồm cả các thông điệp do AI tạo ra mà con người không bao giờ nhìn thấy, chỉ được tạo ra trong các hệ thống tự động hóa. Cho đến nay, đây là một thị trường tương đối nhỏ — nhưng nó sẽ tăng trưởng khi AI lan rộng.

Nếu khoản gọi vốn là một dấu hiệu, thì có rất nhiều nhu cầu tiềm tàng đối với sản phẩm này.

"Đây có lẽ là vòng gọi vốn nhanh nhất tôi từng thực hiện trong cuộc đời mình," CEO Kumesh Aroomoogan nói, ghi nhận sự giúp đỡ của Andressen Horowitz trong việc cấu trúc vòng hạt giống này. "Chúng tôi chốt vòng gọi trong vòng ba tuần và số tiền đăng ký vượt quá 3 lần so với mức chúng tôi cần."