核心信息

OpenRouter 发布了自公司成立以来规模最大的供应商路由升级,改变了推理供应商之间的流量分配方式。此前路由主要按价格优先,新路由则按请求的实际成本衡量最佳推理质量来分配。

要点

  • 路由现在综合推理质量与每次请求的真实成本,而非只看价格。
  • 官方目标是让请求既保持低价,又快速可靠。
  • 提供更高价值的供应商会自动获得更多流量,从而有动力持续改进。
  • OpenRouter 表示,任何供应商的改进都会转化为用户侧更好的推理体验。
  • 该线程中附有介绍其方法的长文链接。