核心信息

AMD 宣布为 Kimi K3.1 Pro 在 Instinct MI355X 加速卡上提供首日支持，该开放权重模型可在 8 块 MI355X 上通过 ATOM 和 vLLM 运行。

要点

  • Kimi K3.1 Pro 拥有 2.8T 参数和 1M token 上下文窗口，并开放权重。
  • 部署运行于 8 块 AMD Instinct MI355X GPU。
  • 软件栈使用 ATOM 与 vLLM。
  • AMD 发布了该方案的部署配方、内核与基准测试。