核心信息

Ahmad Awais 表示，CommandCodeAI 内部 RSI 引擎把“缓存”作为北极星指标，他认为这一选择让团队在 100 万亿 token 以上规模下用 10 美元完成了价值 100 美元的推理。

要点

  • 团队在 100 万亿 token 规模上运行决策模型，每天发现 200-300 万处代码改进。
  • 缓存被视为最高质量的“燃料”：用得越多，里程越长，产出越精炼。
  • Awais 认为代码行数（LoC）是糟糕的指标，更好的指标应是最终用户真正关心的东西。
  • 该缓存指标明确是内部 RSI 引擎的北极星指标，而非整个公司的指标。