核心信息

一份新的 Hugging Face 内核手册已发布，涵盖从 Hub 使用内核的实践方法。

要点

  • 讲解如何从 Hub 使用 HF 内核
  • 对比硬编码 Triton 内核与不硬编码的做法
  • 展示在有内核和无内核情况下对模型的基准测试
  • 作者欢迎社区反馈