核心信息

DeepSeek 开源了自研推理框架 DeepInfer,该框架用于以高吞吐、低延迟支撑 DeepSeek-V4.1-Flash 的大规模服务;同时开源了 deepseek-recipe 分词编解码组件,其处理逻辑与官方 DeepSeek API 一致。

要点

  • DeepInfer 是支撑 DeepSeek-V4.1-Flash 的生产级推理栈,主打高吞吐与低延迟
  • DeepSeek 表示公开该栈旨在帮助社区降低算力成本与能耗
  • deepseek-recipe 可让社区部署获得与官方 API 相同的分词编解码行为
  • 此次开源覆盖开放模型、开放内核与开放推理,面向私有部署与公有云
  • 代码已开放,供社区探索与贡献