Chi phí Token "điên rồ" đang thử thách các ông lớn khi đầu tư vào AI

Tại công ty phần mềm 8x8, nhân viên đang sử dụng chatbot AI Claude của Anthropic để soạn email, phân tích phản hồi khách hàng và viết mã. Tuy nhiên, sự phụ thuộc ngày càng tăng vào trí tuệ nhân tạo này cho đến nay vẫn chưa gây ra lo lắng cho đội ngũ tài chính của công ty.

Trong khi nhiều gã khổng lồ Thung lũng Silicon như Meta, Uber và Salesforce đã bày tỏ lo ngại công khai về chi phí ngày càng tăng của các công cụ AI tạo sinh và bắt đầu áp đặt giới hạn sử dụng, 8x8 lại khẳng định họ vẫn đang có lãi. Trong 18 tháng qua, công ty ước tính đã tiết kiệm được khoảng 5 triệu USD chi phí hàng năm bằng cách hủy đăng ký hàng chục công cụ phần mềm và giáo dục được coi là không cần thiết, một phần là vì Claude có thể cung cấp các khả năng tương tự. Theo ông Joel Neeb, giám đốc chuyển đổi và vận hành kinh doanh của 8x8, hóa đơn hàng năm cho Claude hiện tại "thấp hơn nhiều" so với con số tiết kiệm được.

Ông Neeb kỳ vọng khoản tiết kiệm và chi phí này sẽ cân bằng nhau vào một thời điểm nào đó khi 8x8 khuyến khích nhiều nhân viên hơn áp dụng AI và tích hợp công nghệ này vào các công việc phức tạp hơn. Nhưng hiện tại, vẫn còn một khoảng cách lớn, điều mà ông nói với WIRED rằng "khiến Giám đốc tài chính của tôi rất hài lòng".

Sự trỗi dậy của "Tokenomics"

Khi các công ty đổ hàng trăm triệu USD vào các công cụ AI cho lập trình, tiếp thị và dịch vụ khách hàng, một sự ám ảnh mới đã xuất hiện trong ngành công nghệ: "tokenomics", hay cách quản lý chi phí tăng vọt của việc sử dụng AI. (Token đại diện cho lượng nội dung mà mô hình AI phân tích và tạo ra).

Tháng trước, CEO của Ngân hàng Hoàng gia Canada (RBC) đã tiết lộ rằng việc sử dụng token của ngân hàng đã tăng vọt 500% trong sáu tháng qua. Tại Cisco, một phần ba nhân viên đang sử dụng chatbot AI nội bộ hàng ngày, vì vậy "việc sử dụng token đang trở nên khá, khá điên rồ", CEO Chuck Robbins cho biết trong một cuộc họp báo cáo tài chính. Một số kỹ sư hàng đầu tại nhà phát triển phần mềm phân tích Amplitude đang "chi hàng nghìn đô la mỗi tháng hoặc hơn cho token", theo CEO Spenser Skates. Aaron Levine, CEO của Box, cho biết: "Cuộc thảo luận về ngân sách token đã trở thành một trong những chủ đề quan trọng nhất và gây tranh cãi nhất".

Theo một bài đánh giá của WIRED về các bản ghi từ nhà cung cấp dữ liệu AlphaStreet, khoảng 300 công ty đã giải quyết các câu hỏi hoặc lo ngại về token AI trong các cuộc họp báo cáo tài chính hoặc thảo luận công khai với các nhà phân tích tài chính vào tháng 4 hoặc tháng 5. Đây là một phần nhỏ trong hàng nghìn cuộc gọi được tổ chức trong khoảng thời gian đó, nhưng chỉ 93 công ty đề cập đến "token" vào tháng 4 và tháng 5 năm ngoái.

Các giám đốc điều hành của một số công ty cho biết họ đang phát triển hoặc muốn mua các hệ thống giúp giám sát việc sử dụng token và chọn mô hình có giá thấp nhất cho một yêu cầu cụ thể. Những người khác cho biết họ vẫn đang cố gắng tìm cách cân bằng giữa việc tuyển dụng thêm người và tăng ngân sách cho token để đạt được mục tiêu của mình.

Chi tiêu mạnh tay để tăng trưởng

Phần mềm hiếm khi rẻ, nhưng thế hệ công cụ AI mới nhất đang gây ra áp lực bất thường cho các cấp lãnh đạo vì nhiều lý do. Giá cả liên tục biến động. Các mô hình mới mạnh mẽ hơn và đắt đỏ hơn được phát hành hàng tháng. Và việc đưa toàn bộ tổ chức làm quen với cách làm việc mới là một thách thức, vì vậy lợi suất năng suất được thúc đẩy bởi AI ở một nhóm có thể dẫn đến nút thắt cổ chai cho nhóm khác.

Tuy nhiên, một số công ty vẫn khuyến khích nhân viên sử dụng AI nhiều hơn mà không lo lắng về hóa đơn. Vào tháng 4, thương hiệu thời trang Baseball Lifestyle 101 có trụ sở tại Long Island, New York, dự kiến đạt 250 triệu USD doanh thu năm nay, đã yêu cầu khoảng 50 quản lý cấp cao của mình chi số tiền tương đương khoảng 20% lương của họ cho các token AI mỗi tháng.

Ông Bill Rom, đồng sáng lập và giám đốc chiến lược của Baseball Lifestyle 101, cho biết với WIRED rằng chi phí này có thể vượt quá 100.000 USD mỗi tháng vào cuối năm, nhưng nó đã mang lại lợi nhuận. Gần đây, Claude đã giúp chốt được đơn hàng trị giá 1 triệu USD bằng cách phát hiện ra rằng một nhà bán lẻ đang sắp hết một số kích cỡ của quần short họa tiết kem phổ biến của công ty. "Đó là một ngày rưỡi công việc giờ đây có thể xảy ra trong một hoặc hai giờ, có thể mang lại cho tôi doanh thu thêm tám con số trong 12 tháng", ông Rom nói.

Chatbot AI cũng giúp viết báo cáo tài chính và lên kế hoạch chụp ảnh, cho phép công ty tuyển dụng ít nhân viên cấp sơ cấp hơn và định hướng đầu tư sang nơi khác. Ông Rom cho rằng điều quan trọng là "truyền cảm hứng cho mọi người cách sử dụng AI" trước khi thiết lập các quy tắc tài chính cho công nghệ này.

Văn hóa giám sát và tối ưu hóa

Tại 8x8, công ty phát triển nền tảng truyền thông giúp quản lý bán hàng và dịch vụ khách hàng, tất cả khoảng 1.800 nhân viên toàn thời gian đều được khuyến khích kiểm tra thường xuyên một bảng điều khiển cho biết họ và đồng nghiệp đang sử dụng Claude như thế nào, với tinh thần không để ai bị bỏ lại phía sau. "Nó không mang tính trừng phạt chút nào; thực sự chỉ là để chúng ta tất cả cùng đi chặt chẽ trong hành trình này", ông Neeb nói. Vào tháng 5, các đội ngũ sản phẩm và thành công của khách hàng là những người sử dụng nhiều nhất, trong khi đội ngũ bán hàng và tài chính sử dụng ít nhất.

Ông Neeb cho biết 8x8 có thể sẽ áp đặt giới hạn về mức độ nhân viên có thể sử dụng Claude. Ông đã thảo luận về ý tưởng này lần đầu tiên gần đây với CFO do việc sử dụng nội bộ mô hình Claude Opus 4.8 ngày càng tăng, mô hình này được phát hành tháng trước và có giá cao hơn gần 1,7 lần so với sản phẩm mà Anthropic phát hành vào tháng 2. Mặc dù chưa có quyết định nào được đưa ra, việc truy cập Opus trong tương lai có thể yêu cầu chứng minh rằng các mô hình cũ hơn không thể hoàn thành công việc, ông Neeb nói. "Chúng ta có thể hạ cấp mô hình một chút và vẫn đạt được kết quả tương tự không?"

Nếu không, ông Neeb nói rằng 8x8 không hề lùi bước trước AI tạo sinh theo bất kỳ cách nào. Các chỉ số về sự hài lòng và lòng trung thành của khách hàng có xu hướng tăng cao hơn, và doanh thu đã tăng trong bốn quý liên tục khi các phân tích do AI tạo ra đẩy nhanh công việc của nhân viên bán hàng. Việc quy xu hướng này hoàn toàn cho AI, hoặc thậm chí là cho AI, là khó khăn, nhưng ông Neeb nghi ngờ có một mối liên hệ. "Thực sự là thủy triều lên sẽ nâng tất cả các con thuyền khi bạn làm đúng điều này," ông nói.

Khoảng hai năm trước, 8x8 bắt đầu bước vào AI tạo sinh bằng cách cung cấp cho tất cả nhân viên đào tạo và hỗ trợ cho ChatGPT của OpenAI và Gemini của Google. Sau đó, một số ít người được chọn sử dụng Claude, ông Neeb nói, và nó đã trở thành tiêu chuẩn của toàn công ty trong năm qua.

Ban lãnh đạo giám sát việc sử dụng và đã cảnh báo nhân viên rằng việc từ chối thành thạo AI sẽ dẫn đến hậu quả. "Nếu bạn không sử dụng AI theo một cách nào đó cho vai trò của mình, thì bạn đang bỏ lỡ cơ hội để đi nhanh hơn và nhận được câu trả lời tốt hơn hiệu quả hơn so với đồng nghiệp của mình", ông Neeb nói.

Các nhà tuyển dụng công nghệ khác đã đưa ra các chỉ thị tương tự với kết quả trái chiều. Tại các công ty như Amazon và Meta, người lao động đã báo cáo việc tích hợp AI vào công việc chỉ vì họ cảm thấy mình phải làm vậy hoặc lười biếng vì các công cụ AI giải phóng thời gian của họ, cả hai đều dẫn đến những gì các nhà phê bình mô tả là lãng phí. Ông Neeb lập luận rằng sự kiên nhẫn và các biện pháp trách nhiệm giải trình là cần thiết để định hướng nhân viên. Ông không muốn họ nghỉ trưa dài hơn hoặc ngồi trên bãi biển khi AI đẩy nhanh công việc của họ.

Ông Neeb cũng muốn đạt được nhiều hơn nữa từ những gì ông mô tả là "những người đi chậm trong hành trình này" như đội ngũ bán hàng và tài chính, cùng chiếm 28% nhân viên của công ty nhưng chỉ chiếm 15% mức tiêu thụ token. Ông hy vọng một cuộc thi hackathon AI gần đây cho đội ngũ tài chính sẽ thúc đẩy đơn vị này tự động hóa các quy trình thủ công rộng rãi của mình, chẳng hạn như thu tiền từ khách hàng và tạo ra kế toán hàng quý.

Người đứng đầu vận hành này cho biết ông đã chứng kiến trực tiếp cách Claude có thể làm cho công ty của mình hiệu quả hơn. Ông Neeb sử dụng công cụ này để tự động hóa một email hàng ngày gửi đến công ty tóm tắt các mẹo sử dụng AI hàng đầu từ những người có ảnh hưởng trong ngành trên YouTube. Sau khi nhận thấy rằng nhiệm vụ này tiêu tốn "nhiều token", ông Neeb nói rằng ông đã hỏi Claude liệu nó có thể hoạt động với chi phí rẻ hơn không. Claude đã điều chỉnh lại quy trình tự động hóa, cắt giảm việc sử dụng token xuống 80%.