核心信息

Hugging Face 复现了一篇关于“权重空间编程”的论文：GPT-6 Astra 仅修改 Qwen3.5-0.8B 极小比例的权重，无需梯度或训练即可改善推理能力。复现工作基于开源研究工具 ML Intern 完成。

要点

  • GPT-6 Astra 仅直接修改了 Qwen3.5-0.8B 的 0.016% 权重。
  • 据称该修改修复了模型的推理循环，数学能力提升至多 6 倍。
  • 指令遵循能力也提升至多 3 倍，全程无需梯度或训练。
  • 该方法被称为权重空间编程，让前沿大模型能原生编辑模型权重。
  • Hugging Face 随复现一同发布了模型与演示，基于 ML Intern 构建。