核心信息
DeepSeek 开源了自研推理框架 DeepInfer,该框架用于以高吞吐、低延迟支撑 DeepSeek-V4.1-Flash 的大规模服务;同时开源了 deepseek-recipe 分词编解码组件,其处理逻辑与官方 DeepSeek API 一致。
要点
- DeepInfer 是支撑 DeepSeek-V4.1-Flash 的生产级推理栈,主打高吞吐与低延迟
- DeepSeek 表示公开该栈旨在帮助社区降低算力成本与能耗
- deepseek-recipe 可让社区部署获得与官方 API 相同的分词编解码行为
- 此次开源覆盖开放模型、开放内核与开放推理,面向私有部署与公有云
- 代码已开放,供社区探索与贡献