核心信息

LightSeek 的 TokenSpeed 基准测试显示,Qwen3.8-Flash-Next 在 4 块 NVIDIA GB300 GPU 上以 NVFP4 运行,实现每用户 685 输出 tokens/s。

要点

  • Qwen3.8-Flash-Next 每用户输出速度达 685 tokens/s
  • 部署于 4 块 NVIDIA GB300,采用 NVFP4 精度
  • 相关内核与服务优化细节已在链接文章中说明
  • Qwen 表示乐见社区持续释放其推理潜力