核心信息

LiteLLM 宣布其网关仪表盘中的 Model Hub 现在展示每个模型部署的定价，涵盖缓存、长提示、flex、priority 和 batch 等定价分层。

要点

  • 定价按模型部署直接显示在 Model Hub 视图中
  • 覆盖多种定价模式：缓存、长提示、flex、priority 和 batch
  • 目标是把所有定价信息集中到一处，便于比较