核心信息
Hugging Face 宣布在 transformers、llama.cpp 和 MLX 中首日支持 Thinking Machines Lab 的 Inkling 2 Mini(A3B/26B)。
要点
- Inkling 2 Mini 采用 A3B/26B 配置,被认为是适合本地部署的尺寸
- 支持同步落地 transformers、llama.cpp 和 MLX
- Hugging Face 员工称已对其作为编码助手进行了大量实测
- 随发布附有博客文章
Hugging Face 宣布在 transformers、llama.cpp 和 MLX 中首日支持 Thinking Machines Lab 的 Inkling 2 Mini(A3B/26B)。