核心信息
Hy4 Flash 的 4-bit 与 8-bit MLX 权重已发布到 Hugging Face,面向 Apple Silicon,两者均包含 MTP 支持,同时 TensorFold 更新支持本地运行。
要点
- 提供两种量化版本:4-bit MLX MTP 与 8-bit MLX MTP
- 权重托管于 Hugging Face,适配 Apple Silicon 设备
- TensorFold 同日更新,可在本地运行 Hy4 Flash
- 将 Hy4 Flash 从云端扩展到 Mac 端侧推理