Trợ lý dot của OpenAI đốt hơn 300.000 token trong một ngày mà không cần người dùng nhắc

Thử nghiệm của Geordie ghi nhận 155 chuỗi hoạt động và nhiều tác tử con sau khi dot được cấp quyền chỉ đọc. Trợ lý AI luôn bật này tự khởi tạo tác vụ và tiêu tốn lượng lớn token mà không cần bất kỳ lời nhắc nào từ người dùng.

Trợ lý "luôn bật" hoạt động khác thường

Nếu bạn đang dùng dot của OpenAI, đừng ngạc nhiên khi nó tự tiêu tốn rất nhiều token. Theo công ty chuyên về bảo mật và quản trị tác tử AI Geordie, một tác tử dot đã tạo ra 155 chuỗi hoạt động riêng biệt và tiêu thụ hơn 300.000 token — tất cả mà không cần thêm bất kỳ tương tác nào từ con người, và toàn bộ chỉ trong một ngày.

Geordie đã thử nghiệm trợ lý tác tử "luôn bật" này kể từ khi OpenAI công bố dot vào tháng 9, nối tiếp các sản phẩm như Meta Muse và Grok Bot. Tuy nhiên, so với các trợ lý cá nhân khác, dot của OpenAI "trông có vẻ hơi khác biệt", theo bà Hanah-Marie Darley, giám đốc AI của Geordie, chia sẻ với The Register. "Một trong những điều chúng tôi phát hiện rất nhanh là chúng thực sự, thực sự hoạt động tích cực mà không cần nhiều tương tác từ người dùng."

Quyền chỉ đọc vẫn đủ để "chạy loạn"

Trong quá trình thử nghiệm, bà Darley chỉ cấp cho dot quyền chỉ đọc, và không kết nối nó với các ứng dụng cá nhân, email hay các ứng dụng liên lạc như Slack. Nhưng con bot nhanh chóng chuyển sang chế độ nghiên cứu, thu thập càng nhiều thông tin càng tốt và khảo sát toàn bộ hệ thống.

"Bạn có thể hình dung nó giống như một quản lý dự án mới đến, nhìn xem có gì ở đó, xem bạn đã cấp cho nó quyền truy cập gì, bạn có quyền truy cập gì, và bạn đang chạy những hệ thống nào," bà Darley nói.

Tác tử này thu thập tất cả dữ liệu đó thành một dạng nhật ký hàng ngày, và liên tục cập nhật trong suốt cả ngày. "Nếu bạn đã giao cho nó bất kỳ nhiệm vụ nào, nó cũng sẽ tự kiểm tra các nhiệm vụ của chính mình," bà Darley cho biết. "Nhưng điều thực sự độc đáo là dot đang tự khởi tạo các tác tử mà hoàn toàn không tương tác với người dùng. Tất cả đều do dot tự thúc đẩy, chứ không phải từ một tác vụ cố định, theo lịch trình, hay bất kỳ lời nhắc nào từ người dùng."

"Cá nhân hóa tối đa" và "luôn bật" — điều gì có thể sai?

Hầu hết việc sử dụng tác tử AI trong doanh nghiệp thường là các bot được xây dựng tùy chỉnh, đảm nhận các dự án kinh doanh cụ thể, hoặc các khung tác tử như Claude, Codex hay Hero cho kỹ thuật và lập trình có AI hỗ trợ, theo bà Darley.

"Những thứ đó thường được thúc đẩy bởi nhân viên đặt ra mục tiêu," bà nói trong một cuộc phỏng vấn. "Nhưng thú vị là, các trợ lý cá nhân lại tự đặt ra nhiều nhiệm vụ hơn — và tôi không nghĩ nhiều người nhận ra điều đó khi họ bắt đầu dùng thử chúng."

Đây chính là toàn bộ giá trị cốt lõi của trợ lý cá nhân. Thay vì thụ động chờ lời nhắc từ người dùng, các bot như Muse và dot hướng tới việc trở thành những "nhân viên số" chủ động, thực hiện các tác vụ nhiều bước và kết nối với nhiều ứng dụng, dịch vụ, tài khoản thay mặt người dùng.

"Họ đang cố gắng cá nhân hóa tối đa và thu thập càng nhiều ngữ cảnh, thông tin về bạn càng tốt để đề xuất mọi thứ cho bạn, và để chủ động," bà Darley nói. "Nhưng điều đó có nghĩa là chúng thực sự luôn bật, hoạt động trong nền, và có những giai đoạn hoạt động tích cực."

Dot nói riêng tỏ ra chủ động hơn các trợ lý cá nhân khác như Muse hay Grok Bot, theo bà Darley. Điều này không nhất thiết đồng nghĩa với việc dùng nhiều token hơn, bà nói thêm. "Chúng chỉ hoạt động khác nhau thôi."

Ví dụ, các dot luôn vận hành với ít nhất hai tác tử chạy song song: tác tử chính tương tác với người dùng, và tác tử phụ liên tục chạy trong nền để thu thập dữ liệu. Các dot và tác tử khác cũng có thể khởi tạo tác tử con cho những nhiệm vụ cụ thể.

50 chuỗi hoạt động trong 2 phút

Trong số 155 chuỗi hoạt động của dot khi thử nghiệm, ít nhất 50 chuỗi xảy ra trong khoảng thời gian hai phút, và phần lớn xảy ra trong vài giờ, theo bà Darley.

"Trong một chuỗi mà chúng tôi phân tích, tác tử đã khởi tạo nhiều tác tử con tồn tại ngắn, chúng chỉ làm những nhiệm vụ cụ thể, và truyền thông tin từ các quyền truy cập đã được cấp cho dot — và không có gì trong số này tương tác với người dùng," bà Darley nói.

Một phần của quá trình đánh giá liên quan đến việc thử nghiệm một hệ thống phát triển, và một trong các dot đã khởi tạo một tác tử con để kiểm tra tất cả các kho mã nguồn trong hệ thống. Trong khi đó, một tác tử con khác liên tục kiểm kê và thống kê tất cả dữ liệu mà nó tìm thấy trong quá trình vận hành.

"Người dùng sẽ không hề biết rằng có những tác tử con đang làm việc thay mặt họ," bà nói thêm. "Họ sẽ không biết những tác tử đó được cấp quyền truy cập như thế nào, hay nhiệm vụ của chúng là gì — điều này thực sự rất khác so với cách hầu hết các tác tử vẫn hoạt động trong bối cảnh doanh nghiệp."

155 chuỗi hoạt động này tiêu tốn của Geordie khoảng 307.000 token. Các yêu cầu khác tốn từ vài trăm đến vài nghìn token, tùy thuộc vào mức độ nghiên cứu mà dot thực hiện. "Điều đó thực sự thú vị vì đây là hoạt động nghiên cứu tự định hướng," bà Darley nói.

Người dùng không yêu cầu nó thực hiện những tác vụ này — hay sử dụng một số token nhất định — mà là dot tự làm điều đó.

Bài toán chi phí token

Chi phí token thay đổi rất nhiều tùy theo vị trí người dùng, gói đăng ký, các thỏa thuận giá ưu đãi, chi phí tính toán và nhiều điều khoản khác.

Nhưng để hình dung, khoảng 200.000 token tiêu thụ bởi một dot dựa trên mô hình Astra của OpenAI tốn khoảng 5 đến 10 USD. "Vậy nếu bạn nghĩ về việc đó sẽ diễn ra mỗi ngày, điều đó có nghĩa là bạn có thể chi bằng tiền một ly cà phê latte, tùy thành phố — nhưng mà không cần bất kỳ tương tác nào với người dùng," bà Darley nói.

"Một trong những điều nhiều người gặp khó khăn, đặc biệt khi hiểu về chi tiêu cho AI, là: Việc dùng token liên quan thế nào đến sản phẩm công việc, hay liên quan thế nào đến kết quả? Và đó là câu hỏi khó vì không nhất thiết là tương quan một-một," bà lưu ý.

Một yêu cầu gửi đến LLM có thể tốn 500 token mà vẫn giá trị hơn, từ góc độ kinh doanh, so với một yêu cầu khác tốn 800.000 token. "Vấn đề thực sự là bạn tốn bao nhiêu năng lực tính toán để có được câu trả lời tốt, và đó trở thành một phán đoán rất chủ quan," bà Darley nói.

Tuy nhiên, khi nói đến dot và các tác tử luôn bật khác, bà nghi ngờ rằng "nhiều người sẽ không chuẩn bị sẵn sàng cho khoản chi phí chạy nền này".

Bạn có biết các tác tử của mình đang làm gì không?

Giống như nhân viên từng đưa chatbot về nhà, rồi đến các tác tử lập trình, và giờ là các trợ lý cá nhân, hãy giả định rằng mọi người sẽ mang dot và những người bạn của nó từ nhà vào công việc, bà Darley nói.

"Các doanh nghiệp thường bất ngờ về số lượng tác tử đang hoạt động tích cực trong hệ thống của họ, ngay cả khi họ hình dung một đợt triển khai nhỏ hơn hoặc được kiểm soát hơn," bà nói.

"Điều thứ hai là không phải tất cả các tác tử đều hành xử giống nhau," bà nói thêm. "Chúng hoạt động với mức độ tự chủ khác nhau, mức độ tương tác người dùng khác nhau, và chúng cũng thực sự bị chi phối bởi ngữ cảnh. Những tác tử tốt nhất là những tác tử có ngữ cảnh hẹp nhất, vì điều đó có nghĩa là chúng có thể theo đuổi mục tiêu với đúng thông tin vào đúng thời điểm."

Lời khuyên trước khi thả tác tử AI

Bà Darley khuyên các tổ chức nên thử công nghệ này. Bà tự nhận mình là một "người lạc quan cuồng nhiệt về AI", và tin rằng các tác tử có thể cải thiện năng suất và thay đổi cách mọi người làm việc. AI sẽ không biến mất, và vì thế, doanh nghiệp nên làm quen với các tác tử.

"Đừng cấp cho chúng bất kỳ thông tin cá nhân nào mà bạn không thoải mái khi gửi qua email. Và đừng gắn tiền thật vào đó — như thẻ cá nhân của bạn. Hãy mua cho nó một thẻ quà tặng Visa, nếu bạn muốn cho nó quyền thực hiện mua hàng thay bạn. Nhiều người thường không nghĩ đến điều đó cho đến khi có chuyện không hay xảy ra."

Điều này có ý nghĩa gì với người dùng Việt Nam?

Với người dùng công nghệ tại Việt Nam, câu chuyện về dot là lời cảnh tỉnh đáng chú ý. Khi các trợ lý AI cá nhân ngày càng phổ biến và được tích hợp vào công việc hàng ngày, chi phí chạy nền có thể trở thành một khoản phí ẩn mà nhiều người chưa lường trước.

Với mức thu nhập trung bình tại Việt Nam, việc chi vài đô-la mỗi ngày chỉ để một trợ lý AI tự vận hành có thể là con số đáng cân nhắc. Doanh nghiệp Việt Nam — đặc biệt các startup và công ty phần mềm đang thử nghiệm tác tử AI — nên theo dõi sát sao mức tiêu thụ token và thiết lập giới hạn rõ ràng trước khi triển khai rộng rãi.

Điểm mấu chốt không phải là tránh xa công nghệ này, mà là hiểu rõ nó đang làm gì và tốn bao nhiêu — trước khi hóa đơn đến.