跳到主要内容
计费运营

中转站怎么算账:一次请求到底花了多少

输入输出分开计价、缓存命中打折、失败请求不计费。三个口径写清楚。

KeLi6 分钟读完642 次阅读
本页目录(3 节) 展开

计价口径

一次请求的成本 = 输入 token × 输入单价 + 输出 token × 输出单价。

缓存命中的输入按 1/10 计价,这是很多人漏掉的省钱点。

什么时候不该计费

  • 上游 5xx;
  • 请求被限流拒绝;
  • 参数校验失败。

这三种都不产生 token 消耗,计费就是耍流氓。

对账

每天凌晨跑一次「我方账单 vs 上游账单」的差异对比,差异超过 3% 就告警。