计费运营
中转站怎么算账:一次请求到底花了多少
输入输出分开计价、缓存命中打折、失败请求不计费。三个口径写清楚。
KeLi6 分钟读完642 次阅读
计价口径
一次请求的成本 = 输入 token × 输入单价 + 输出 token × 输出单价。
缓存命中的输入按 1/10 计价,这是很多人漏掉的省钱点。
什么时候不该计费
- 上游 5xx;
- 请求被限流拒绝;
- 参数校验失败。
这三种都不产生 token 消耗,计费就是耍流氓。
对账
每天凌晨跑一次「我方账单 vs 上游账单」的差异对比,差异超过 3% 就告警。