核心信息
Airbnb 工程团队用 Gemma 4 E2B 做策略分类基准测试,在单张 NVIDIA RTX Pro 6000 GPU 上部署,质量可媲美顶级前沿 API,成本却低得多。
要点
- 最高 F1 从 0.563 提升到 0.902,达到顶级前沿 API 水平
- 中位延迟 35ms(p99 为 85ms),前沿模型约为 900ms
- 高并发下推理成本约为前沿 API 的 1%
- 效果提升归功于细致的评测、领域数据,以及用专用小模型替代超长提示词
Airbnb 工程团队用 Gemma 4 E2B 做策略分类基准测试,在单张 NVIDIA RTX Pro 6000 GPU 上部署,质量可媲美顶级前沿 API,成本却低得多。