核心信息

TypeSafe AI 推出了由 Jev 驱动的缓存感知模型路由器 Jev Router,现已上线 OpenRouter。它会为每个请求选择最佳模型和推理强度,以平衡质量、速度和成本,旨在减少智能体工作流中的 token 浪费。

要点

  • Jev Router 已与 OpenRouter 集成,可用于所有 LLM 调用。
  • 采用缓存感知设计,利用 Jev 的智能来优化路由。
  • 旨在提升智能体工作流的效率并降低成本。