DeepSeek在开源大模型、TileLang编译工具及推理算子库的基础上,于10月20日进一步开源内部推理框架DeepInfer,该框架已支撑DeepSeek V4.1 Flash实现高吞吐、低延迟的大规模推理服务,还兼容英伟达与华为昇腾平台,同步开源的deepseek-recipe编解码组件也与官方API处理逻辑完全对齐。

DeepSeek在开源大模型、TileLang编译工具及推理算子库的基础上,于10月20日进一步开源内部推理框架DeepInfer,该框架已支撑DeepSeek V4.1 Flash实现高吞吐、低延迟的大规模推理服务,还兼容英伟达与华为昇腾平台,同步开源的deepseek-recipe编解码组件也与官方API处理逻辑完全对齐。
