DeepSeek 开源内部推理框架 DeepInfer

DeepSeek 宣布将内部推理框架 DeepInfer 全面开源，并同步开源生产级 Token 编解码组件 deepseek-recipe。DeepSeek 称，DeepInfer 集成高性能算子与深度优化的推理引擎，支持分布式推理、推测解码、SWA Bounded Replay 和结构化输出，兼容英伟达与华为昇腾平台。 DeepSeek 表示，该框架已支撑 DeepSeek V4.1 Flash 的高吞吐、低延迟大规模推理服务，未来新模型的推理代码及后续优化也将持续在此更新。

AI 根据报道生成 · 44 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。