核心信息

GMI Cloud 宣布成为 EAGLE-4 的首发合作伙伴,该技术即日起在其平台上线。在其 B300 集群上,EAGLE-4 在 Qwen3.8-27B 上的解码速度比普通解码快 2.7 倍。

要点

  • EAGLE-4 今日在 GMI Cloud 上线,为首发合作伙伴
  • 在 Qwen3.8-27B 上实测解码提速 2.7 倍
  • 运行于 GMI Cloud 的 NVIDIA B300 集群
  • 上游 EAGLE-4 称在 Qwen3.8-27B 上配合 TokenSpeed 达到 961.6 tokens/s(BF16、4×B300、TP4、单请求、T=0)
  • GMI Cloud 表示完整基准测试即将公布