核心信息

Unsloth 为 MiniMax M3.1 Flash 发布 Dynamic GGUF，将 428B MoE 模型压缩至 143.9GB 的 2-bit 体积，同时在 Unsloth 覆盖七个领域的评估中保持 91.5% 的 top-1 token 一致率。

要点

  • 2-bit GGUF 体积约缩小 45%，可在约 150GB 内存上运行，降低了自托管的内存门槛。
  • 支持通过 Unsloth Desktop 和 llama.cpp 部署，并提供兼容 OpenAI 的 API，便于现有应用和 agent 接入。
  • Unsloth 提到其 GitHub 星标超过 78K、Hugging Face 模型下载量超过 5 亿，作为此次发布的社区基础。
  • MiniMax 将该发布定位为为开发者扩展开放权重、本地可控的构建方式。