核心信息

一条来自 IlysMoutawwakil 的转发推文介绍了将每个 transformers 模型端到端导出、量化并在任意后端运行的工具，输入输出保持一致，可作为直接替代方案。

要点

  • 覆盖完整流程：导出、量化与执行
  • 声称支持所有 transformers 模型
  • 可跨任意后端运行
  • 定位为输入输出一致的直接替代方案
  • 附有文档与发布说明链接