DeepSeek大手笔布局内蒙古智算中心:拟部署16万颗昇腾950DT,打造顶级国产推理算力集群
9月4日,彭博社援引知情人士消息,国内大模型企业DeepSeek计划在内蒙古建设大型数据中心,规划部署至少16万颗华为昇腾950DT芯片,主要用于大模型推理业务,项目建成后,将成为目前已知规模最大的国产AI芯片集群之一。
该智算基地定位为吉瓦级超大型算力园区,此次规划的16万颗昇腾芯片,仅为整个算力园区规划容量的一部分,落地选址落在乌兰察布。当地依托“东数西算”区位优势,拥有风电光伏绿电资源、低温自然散热条件,是国内头部AI企业布局超算集群的热门区域 。
据报道,这批昇腾950DT芯片主要承担模型推理解码任务,并非用于大模型训练。消息显示,DeepSeek虽尝试过基于华为芯片开展模型训练,但现阶段训练环节依旧依赖海外加速芯片,推理侧大规模切换国产算力,是其算力自主化的关键一步。
昇腾950DT是华为新一代AI加速芯片,面向大模型训练与高并发推理场景,搭载144GB大容量内存,内存带宽达到4TB/s,针对长文本推理KV缓存读取、高并发解码场景做专项优化,适配大模型线上API服务的业务需求,DeepSeek还与华为联合定义昇腾超节点架构,目标降低推理时延、提升吞吐能力,实现万卡级别集群扩展能力。
不过项目落地存在现实约束。受高端存储零部件供给制约,昇腾950DT芯片产能存在上限,同时华为需要兼顾多家行业客户订单,知情人士透露,16万颗芯片全部交付周期或将超过一年,实际上线节奏要看芯片供货进度。针对该采购规划,DeepSeek与华为双方均没有对外公开证实相关消息。
行业人士分析,在外部算力供给受限背景下,国内大模型厂商加大国产算力投入已经成为趋势。推理是大模型商业化的核心场景,直接决定API服务的成本、并发上限。大规模落地昇腾芯片,能够降低企业对海外高端芯片的依赖,同时也给国产AI芯片带来大规模真实业务场景的压力测试。
但也要看到,万卡以上规模集群,不只是芯片数量的叠加,服务器硬件适配、集群互联、软件栈适配、模型迁移调优,整套体系都需要打磨。16万颗芯片属于远期规划,后续交付、部署、调优的全过程,都值得行业持续跟踪。
本文信息来源于公开媒体报道,不构成投资建议
DeepSeek 华为昇腾950DT 国产AI算力 大模型推理
