128GB统一内存笔记本上的Ollama本地模型基准测试

核心信息

Burke Holland分享的基准测试表列出了在配备128GB统一内存的笔记本上本地运行多个Ollama模型时的预热每秒token数（TPS）和冷启动首token延迟（TTFT）。

要点

• gemma4:e4b：预热122.8 TPS，冷启动TTFT 8.65秒
• qwen3-coder:30b：预热90 TPS，冷启动TTFT 10.25秒
• gemma4:26b-a4b：预热86.9 TPS，冷启动TTFT 13.03秒
• gpt-oss:20b：预热60.7 TPS，冷启动TTFT 9.93秒
• qwen3.8:latest：预热25.3 TPS，冷启动TTFT 14.84秒
• 测试者称，对笔记本本地运行而言这一表现感觉相当快。