核心信息

Amber Notes 的每次会议摘要都依赖 LLM 调用,该公司将全部调用统一接入 Requesty。据其披露,每次会议的 AI 成本降低 40%,AI 功能可用性达到 99.9%。

要点

  • 所有会议摘要的 LLM 调用统一走一个 Requesty 集成
  • 每次会议 AI 成本降低 40%
  • AI 功能可用性达 99.9%
  • 新模型接入从数天缩短到数分钟
  • 展示了多模型生产负载使用网关的典型模式