核心信息

LiteLLM 宣布将 TypeSafe 的 JEV 集成作为自动路由分类器，测试中相比 Haiku 速度快 5 倍、成本降低 96%。

要点

  • JEV 现已在 LiteLLM 上作为自动路由分类器可用。
  • 性能宣称：比 Haiku 快 5 倍。
  • 成本降幅：比 Haiku 低 96%。
  • LiteLLM 和 TypeSafe 均强调了此次集成。