核心信息

ThinkyMachines 的 Inkling 2 Mini 已在 Ollama 0.40.17(预发布版)中获得支持,模型体积足够小,可在 32GB 以上内存的 Mac 上本地运行。

要点

  • 每个 token 会三次循环经过中间层,仅以 5.4B 激活参数实现更深的推理。
  • 面向编程、计算机使用等智能体工作流、具备强视觉推理的设计任务以及金融任务。
  • 本地运行命令:ollama run inkling-2-mini;在 Pi 中运行:ollama launch pi --model inkling-2-mini。
  • 预发布版安装:curl -fsSL ... | OLLAMA_VERSION=0.40.17-rc3 sh。
  • 早期用户反馈其在 32GB Mac 上运行良好。