核心信息

Thinky Machines 发布 Inkling 2 Mini,这是一个 26B 参数的循环 Transformer,采用 Apache 2.0 协议,小到可在笔记本上运行,同时在 AA Index 上取得 20.1 分,进入开放 agent 模型的帕累托前沿。

要点

  • 参数量 26B,远小于 594B 参数的 Inkling 2 Small
  • 采用循环 Transformer 设计:循环让模型多思考、少输出
  • 可在笔记本上运行,面向 agent 任务
  • 以 Apache 2.0 协议开源
  • 同时分享一个可变循环的研究模型,供进一步研究
  • 在这一规模下思维过程仍可监控,但研究者提醒更大规模时未必如此