核心信息

Hugging Face推出Halo，一个新的开源模型后训练框架，声称与标准TRL相比吞吐量高达2.8倍，同时峰值内存更低，并保持模型的HuggingFace原生格式。

要点

  • Halo是开源模型后训练的框架，特别强调对agent的支持。
  • 相比标准TRL，吞吐量提升至2.8倍，且峰值内存占用减少。
  • 模型在整个过程中保持HuggingFace原生格式。
  • 作为开源项目在GitHub上提供。