Công cụ tính chi phí LLM

Công cụ dùng bảng giá niêm yết công khai năm 2026 cho gói tiêu chuẩn của từng nhà cung cấp. Token đầu vào và đầu ra được tính phí riêng với đơn giá khác nhau. Khi bật prompt caching, phần token đầu vào được cache sẽ tính theo đơn giá giảm — giảm 50% với OpenAI, 90% với Anthropic, 75% với Gemini. Số liệu Llama tự host là chi phí GPU trọn gói ước tính ở mức sử dụng ổn định; chi phí thực tế thay đổi theo khối lượng và chiết khấu dung lượng đặt trước.

Công cụ làm được gì: dự toán chi phí ở trạng thái ổn định cho một khối lượng công việc cố định, so sánh giữa các mô hình và gợi ý các cách tối ưu phổ biến (định tuyến mô hình, caching, xử lý theo lô).

Công cụ không làm được gì: phản ánh khối lượng tăng đột biến, bất thường do ngữ cảnh dài, bão retry, hay chi phí của các dịch vụ hỗ trợ (embedding, fine-tuning, vector database, observability). Vì những yếu tố này, hóa đơn production thực tế thường cao hơn 10–30% so với dự toán của công cụ.

Nếu bạn muốn audit chi phí thực tế cho một hệ thống đang chạy — bao gồm cả các tối ưu ở cấp kiến trúc mà công cụ không thấy được — hãy đặt lịch gọi bên dưới.