DeepSeek这次又开源了，而且连内部用的推理框架DeepInfer都准备放出来。

可能有人不知道DeepInfer是干嘛的。简单讲，大模型训练好了，不代表运行起来就又快又便宜。尤其是几千几万人同时使用的时候，怎么分配算力、减少延迟、控制成本，其实挺考验技术的。

DeepInfer就是用来解决这类推理部署问题的。DeepSeek开源内部推理框架