核心信息

Requesty 表示，上周 Jev 是其平台上请求量最高的模型，但按 token 用量仅排第 12 位，原因是决策模型返回结构化决策而非长篇文本，单次调用 token 用量约为普通 LLM 调用的 12%。

要点

  • 上周 Jev 在 Requesty 上请求量排名第 1，但按 token 计排名第 12。
  • 决策模型以结构化决策作答，而非生成整篇文章。
  • 单次调用 token 用量约为普通 LLM 调用的 12%。
  • 因此按 token 统计的排行榜几乎反映不出决策模型的使用量。
  • 启示：对这类模型而言，请求量排名与 token 量排名可能差异巨大。