核心信息

MiniMax M3.1 Flash 借助 SGLang 在 batch size 1 解码下达到超 1K tok/s，并获得 SGLang 与 Miles 的首日生产级支持。

要点

  • 使用 SGLang 在 bs1 解码下速度超 1K tok/s
  • 广泛硬件支持，包括 NVIDIA Blackwell 与 Hopper（GB300/B300/B200）以及 AMD
  • 由 MiniMax、NVIDIA、AMD 与 RadixArk 联合完成
  • 通过 Miles 支持强化学习
  • 首日即覆盖推理与强化学习场景