核心信息

GMI Cloud 宣布成为 EAGLE-4 的首发合作伙伴，并已在 NVIDIA B300 集群上从第一天起提供该技术，在 Qwen3.8-27B 上解码速度比普通解码快 2.7 倍。

要点

  • EAGLE-4 即日起在 GMI Cloud 上线。
  • 在 B300 集群上，Qwen3.8-27B 的解码速度比普通解码提升 2.7 倍。
  • 上游 EAGLE-4 发布数据显示，Qwen3.8-27B 配合 TokenSpeed 达到 961.6 tokens/s（BF16、4 张 NVIDIA B300、TP4、单请求、T=0）。
  • GMI Cloud 表示完整基准测试即将公布。