核心信息

Airbnb 工程团队用 Gemma 4 E2B 做策略分类基准测试,在单张 NVIDIA RTX Pro 6000 GPU 上部署,质量可媲美顶级前沿 API,成本却低得多。

要点

  • 最高 F1 从 0.563 提升到 0.902,达到顶级前沿 API 水平
  • 中位延迟 35ms(p99 为 85ms),前沿模型约为 900ms
  • 高并发下推理成本约为前沿 API 的 1%
  • 效果提升归功于细致的评测、领域数据,以及用专用小模型替代超长提示词