核心信息
StepFun 在 Hugging Face 和 ModelScope 上发布 Step 5 Preview 开放权重（BF16 与 FP8），同时发布技术博客并更新开源 Step Code 智能体框架至 v0.1.4。
要点
- 稀疏 MoE 模型：总参数 600B，每 token 激活 27B
- 100 万 token 上下文窗口，原生支持文本与视觉输入
- 面向长周期智能体任务：编程、软件工程、专业知识工作与金融
- 技术博客披露：92 层窄而深架构用于隐式多跳推理；稀疏 GQA 配合 8-token 块索引，将索引与 top-k 开销降至 1/8；关键状态使用 FP32 精度并配合细粒度梯度裁剪；百万级可验证环境；面向长周期任务的强化学习，将上下文压缩内置于策略训练
- Step Code v0.1.4 自开源以来已发布四个版本，约每 3 个工作日一次，主要由社区反馈驱动
