核心信息

Switchboard 是一个面向 LiteLLM 代理的小型社区工具，为每个模型系列维护稳定别名，让用户在切换 vLLM、llama.cpp、Ollama 等本地后端时无需重新配置下游工具。

要点

  • 自动检测正在运行的模型并读取其 ID
  • 将系列别名指向检测到的模型，或新增别名
  • 每次修改前备份 LiteLLM 配置
  • 重新加载 LiteLLM 并用真实对话补全进行验证
  • 出错时自动回滚；仅修改 LiteLLM 配置