核心信息
Fireworks Research 发布基于 Kimi K3 的推理模型 Ember-1,通过后训练减少重复思考,在保持基准性能的同时减少约 40% 的 token 使用量。
要点
- 与 K3 相比,Ember-1 在基准测试性能相同的情况下 token 使用量减少约 40%。
- 通过在真实智能体编码任务循环上进行强化学习训练,教导模型区分有效推理与循环。
- 在编码流量的实时 A/B 测试中,Ember-1 在成功率相同的情况下,推理 token 减少 71%,总 token 减少 39%。
- 现已在 Cline 中提供,包括新的桌面应用。