核心信息
LightSeek 的 TokenSpeed 基准测试显示,Qwen3.8-Flash-Next 在 4 块 NVIDIA GB300 GPU 上以 NVFP4 运行,实现每用户 685 输出 tokens/s。
要点
- Qwen3.8-Flash-Next 每用户输出速度达 685 tokens/s
- 部署于 4 块 NVIDIA GB300,采用 NVFP4 精度
- 相关内核与服务优化细节已在链接文章中说明
- Qwen 表示乐见社区持续释放其推理潜力
LightSeek 的 TokenSpeed 基准测试显示,Qwen3.8-Flash-Next 在 4 块 NVIDIA GB300 GPU 上以 NVFP4 运行,实现每用户 685 输出 tokens/s。