核心信息

LiteLLM AI Gateway 现通过两条路由提供决策模型服务：/v1/decisions（OpenAI 格式）和 /v1/systemone（具名问题）。

要点

  • 任意决策模型均可在两条路由上使用
  • 每次调用最多支持 128 个问题
  • 每个答案都会返回概率
  • /v1/decisions 采用 OpenAI 格式，便于集成