核心信息

LiteLLM 宣布其 AI 网关现在可以跨 TogetherAI、FireworksAI 和 Baseten 追踪 Kimi K3.1 Pro 的支出，并列出同日合并的多项计费相关更新。

要点

  • 新增 Kimi、Haiku、Grok 及服务层级的 Bedrock GovCloud 费率（#50128、#50121、#50117）。
  • 在自定义按调用定价中保留区域与速度倍率（#50063）。
  • 在缺少显式批量价格时，统一批量缓存 token 的计费方式（#50062）。
  • 修复自定义视频提供商计费，使其在首次轮询完成时只计费一次（#49824）。