核心信息

Hy4 Flash 的 4-bit 与 8-bit MLX 权重已发布到 Hugging Face,面向 Apple Silicon,两者均包含 MTP 支持,同时 TensorFold 更新支持本地运行。

要点

  • 提供两种量化版本:4-bit MLX MTP 与 8-bit MLX MTP
  • 权重托管于 Hugging Face,适配 Apple Silicon 设备
  • TensorFold 同日更新,可在本地运行 Hy4 Flash
  • 将 Hy4 Flash 从云端扩展到 Mac 端侧推理