Codex trên AWS Bedrock lỗi cache, chi phí tăng gấp nhiều lần
Một báo cáo lỗi trên GitHub cho thấy Codex CLI khi chạy với nhà cung cấp Amazon Bedrock không thể bật cơ chế cache prompt tường minh cho GPT-5.6 Sol. Hệ quả là lượng token ghi cache rất lớn, chiếm khoảng 85% chi phí ước tính của mô hình trong vài ngày chạy thử.

Codex CLI kết nối thẳng tới Amazon Bedrock đang thiếu một tùy chọn quan trọng: bật cache prompt tường minh cho GPT-5.6 Sol. Thiếu tùy chọn này, mỗi lượt gọi đều ghi lại cache thay vì đọc lại phần đã lưu, và hóa đơn tăng theo.
Báo cáo được mở trên kho mã nguồn mở của Codex ngày 9/8/2026, với nhãn liên quan tới CLI, nhà cung cấp AWS Bedrock và hạn mức sử dụng.
Số liệu từ môi trường thật
Người báo cáo dùng Codex CLI phiên bản 0.147.0, nhà cung cấp gốc amazon-bedrock, endpoint Bedrock Mantle Responses API tại vùng us-east-1, mô hình openai.gpt-5.6-sol.
Trong các ngày 5/8 đến 8/8/2026, dữ liệu Cost Explorer kết hợp bảng giá Bedrock cho kết quả:
- 3.656 yêu cầu
- 171,94 triệu token ghi cache
- Chi phí ghi cache ước tính 1.182,09 USD
- Tổng chi phí ước tính 1.386,46 USD
Phần ghi cache chiếm khoảng 85% chi phí ước tính của mô hình. Đây là con số ước lượng từ dữ liệu sử dụng, chưa phải hóa đơn AWS cuối cùng.
Một phiên Codex chạy cục bộ cũng ghi nhận 76 yêu cầu tới Sol, với 6,709 triệu token ghi cache, không có token đọc từ cache, trung bình khoảng 88.000 token ghi cache mỗi yêu cầu. Chỉ số CloudWatch tương ứng không ghi nhận lỗi phía máy khách.
Nguyên nhân kỹ thuật
Codex đã gửi kèm prompt_cache_key ở phạm vi phiên làm việc. Nhưng kiểu yêu cầu cho cả HTTP và WebSocket của Responses API lại không chứa hai trường prompt_cache_options và prompt_cache_breakpoint.
Cấu hình nhà cung cấp Amazon Bedrock có sẵn chỉ mở ra các thiết lập truyền tải và xác thực, không có bước biến đổi nội dung yêu cầu. Vì vậy người dùng không thể bật qua tệp config.toml.
Tài liệu AWS mô tả chế độ cache tường minh cho GPT-5.6 trên Bedrock dành đúng cho tác vụ lập trình tự động (agentic coding): phần chỉ dẫn và định nghĩa công cụ dài, ổn định, nối sau là nội dung công cụ và người dùng thay đổi liên tục. Đây chính là kiểu tải mà người báo cáo đang chạy.
Đề xuất sửa lỗi
Báo cáo nêu bốn yêu cầu cho nhóm phát triển:
- Hỗ trợ tuần tự hóa prompt_cache_options cho các nhà cung cấp Responses có khả năng dùng GPT-5.6
- Thêm trường prompt_cache_breakpoint có kiểu dữ liệu cho các khối nội dung đầu vào được hỗ trợ
- Thêm cổng kiểm tra khả năng theo nhà cung cấp và mô hình, kèm chiến lược đặt điểm ngắt an toàn ở cuối phần tiền tố ổn định đã đo
- Hiển thị số token đọc cache và ghi cache trong dữ liệu sử dụng từng lượt, để người dùng tự chẩn đoán các lần ghi lại toàn bộ tiền tố tốn kém
Người báo cáo cũng lưu ý không phải mọi lần ghi cache đều là lỗi. Khởi động lạnh, prompt thực sự khác nhau, tách nhánh và nén ngữ cảnh đều có thể cần ghi. Vấn đề nằm ở chỗ Codex với Bedrock hiện không có cách nào dùng cơ chế cache tường minh đã được tài liệu hóa cho trường hợp tiền tố ổn định.
Góc nhìn
Với người dùng Codex qua Bedrock, chi phí có thể chênh lệch rất lớn giữa ghi cache và đọc cache. Cùng một khối lượng công việc, phần tiền tố ổn định bị ghi lại mỗi lượt sẽ đắt hơn nhiều so với việc đọc lại từ cache. Vì vậy nên theo dõi riêng số token ghi cache trong dữ liệu sử dụng, thay vì chỉ nhìn tổng chi phí.
Với nhóm kỹ thuật, đây là bài học về lớp trừu tượng: một trường cấu hình bị thiếu ở tầng trung gian có thể đội chi phí mà không sinh lỗi nào. Trước khi đưa tác vụ chạy dài lên môi trường thật, nên kiểm tra xem nhà cung cấp có hỗ trợ trường tương ứng hay không.
Nguồn: github.com · Quy trình biên tập
Bài viết liên quan

AI & ML
Lỗi Claude Code: Hạn mức Pro Max 5x bị cạn kiệt nhanh chóng do tính toán sai token cache
12 tháng 4, 2026

Công nghệ
Codex CLI tự động cài tiến trình nền thường trú: Tiện lợi hay mối lo bảo mật?
13 tháng 10, 2026

Công nghệ
Agent Codex của OpenAI 'vượt kiểm soát', đốt 78.000 USD không được phép
27 tháng 9, 2026