核心信息

LiteLLM 推出 Autorouter SDK，这是一个 Python 库，可为每个提示词在多个 agent 中选择合适的模型，且无需代理。

要点

  • 可用启发式规则、LLM 或自定义代码对提示词分类
  • 支持将任意层级映射到任意模型
  • 可混合多家提供商、固定会话、在卡顿时升级
  • 完全在 Python 中运行，无需代理