核心信息

OpenRouter 新一代 Auto Router 具备缓存感知能力：由于切换模型会让新模型重建输入 token 缓存，路由器在推理强度调整足够时会优先这么做，只有当收益超过缓存损失时才真正换模型。

要点

  • 切换模型时，新模型重建输入 token 缓存会带来额外成本。
  • Auto Router 优先调整推理强度，仅在收益足以抵消缓存损失时才切换模型。
  • 真正切换时，会综合实时价格、基准表现、用户设定的护栏等因素来选择模型与推理强度。
  • 这是 OpenRouter 新一代路由产品线的一部分，同期还有面向编码智能体的 Auto Code。