核心信息

Requesty介绍了其自动路由功能的三步配置方法:写下要回答的问题、列出可供选择的答案、为每个答案指定模型或策略。

要点

  • 当路由选择不明确时,系统会回退到用户最强的模型。
  • 路由决策按会话固定,公司称这样可以保留缓存命中。
  • 该内容定位为配置流程说明,而非新模型发布。
  • 未包含基准数据、定价变化或延迟指标。