核心信息

Hugging Face 宣布在 transformers、llama.cpp 和 MLX 中首日支持 Thinking Machines Lab 的 Inkling 2 Mini(A3B/26B)。

要点

  • Inkling 2 Mini 采用 A3B/26B 配置,被认为是适合本地部署的尺寸
  • 支持同步落地 transformers、llama.cpp 和 MLX
  • Hugging Face 员工称已对其作为编码助手进行了大量实测
  • 随发布附有博客文章