核心信息

Command Code 宣布在 100T token 规模下，用 Rust 重写了推理数据摄取，实现了 17 倍的内存减少。

要点

  • 在 100T token 规模下，将推理数据摄取从 Go 重写为 Rust。
  • 实现了 17 倍的内存减少，是一大胜利。
  • 计划在扩展过程中继续优化。