核心信息

typesafe与OpenRouter联合推出Jev Router，这是一款由Jev驱动的缓存感知模型路由器，可为每次请求自动选择最佳模型与推理力度，在质量、速度和成本之间取得平衡。其模型选择逻辑（含缓存感知的成本权衡）可在Chatroom侧边栏中查看。

要点

  • 通过缓存感知路由降低调用成本并改善延迟
  • 每次请求自动挑选模型与推理力度
  • 在Chatroom侧边栏展示选择逻辑，便于理解
  • 被描述为首个生产级自动路由器，由typesafe与OpenRouter共同推出