华为盘古2.0全量开源 505B全程昇腾训练
7月31日,华为把openPangu-2.0-Pro的模型权重、基础推理代码和技术报告一起放上开源平台。这个总参数505B(约5050亿)、单Token只激活18B的混合专家(MoE)模型,从预训练到推理全流程跑在昇腾NPU上,训练过程中一块英伟达GPU都没有出现,华为称其为业界首个完全在非英伟达硬件上炼成的500B级前沿模型。
两个版本的账本:505B容量,18B成本
openPangu 2.0早在6月12日的华为开发者大会(HDC 2026)上就由常务董事余承东发布,当时公布两个版本:Pro总参数505B、激活18B;Flash总参数92B、激活6B,统一支持512K上下文。开源节奏分批走——6月30日Flash先行,权重、基础推理代码与训推算子同时上线;7月31日Pro跟进,交付权重、基础推理代码加一份技术报告。两款模型的预训练数据量都在34万亿Token上下,后训练走快慢一体化监督微调、多场景专项强化学习,再用在线蒸馏把各项能力融回一个模型。为什么重要:505B对18B的稀疏比接近28比1,意味着能力按总参数往上长,单次推理的账却按激活参数来算;512K的窗口则意味着一份完整合同集或工厂一整年的运行日志可以一次读完,不必切片。
零英伟达:昇腾原生训练的分量
开源社区真正关心的不是参数,而是训练过程用了什么。openPangu-2.0-Pro全程运行在华为自研CANN运行时上,互联也是华为自己设计的,没有走CUDA那条路。底层架构上,注意力模块沿用轻量化MLA,配合DSA与SWA按1比2的比例分层混合,分别处理局部窗口与全局稀疏信息;网络拓扑换成四分支mHC残差结构,另加三头MTP自投机模块,一次可并行预测3个Token,训练侧引入Muon优化器加快收敛。官方给出的效率数据是:128K上下文下最小TPOT仅9.55毫秒,单卡吞吐1326 Token每秒,单卡吞吐率可达业界主流开源模型的2倍。技术报告也坦承,模型在复杂真实软件工程任务上仍落后顶级模型。为什么重要:有行业统计显示,到2026年春季中国开源权重模型在Hugging Face上的下载占比已接近41%,首次超过美国模型;”前沿级MoE能不能在非CUDA栈上炼出来”这个问题争论了三年,如今有了第一个500B量级的反例,对处在出口管制环境里的买家企业,这比排行榜位次更有说服力。
华为交出的不只是权重
按照HDC 2026公布的7大组件计划,预训练代码、后训练代码、训练算子等关键组件从6月30日起分批开放,下半年继续释放,目标是让整套昇腾训练链路可以被复现,而不只是让开发者调用一个黑盒。生态侧,盘古与昇腾算力底座、MindSpore框架、鸿蒙操作系统深度协同,面向麒麟芯片的30B端侧模型还做了量化剪枝;鸿蒙体系里针对Agent任务做了专项优化,执行更快、更准、更省。发布会上的细节也值得记一笔:余承东回顾华为早在行业还不知道大模型为何物时就发布了国内第一个大模型,随后因种种原因没能做到最好,他直言”没做好,不应该”,并称”在余承东字典里,没有第二,只有第一”。规模为何定在505B,他的解释是算力大量用于支持国内其他企业,华为自己留得有限,所以更聚焦时延和吞吐率。为什么重要:多数开源项目只给权重,这次把可复现的训练方法一并交出,中小企业和地方研究机构不必从零自研底座——此前智谱GLM-5.2开源已经把这层门槛拉低过一次,盘古补上的是昇腾侧的拼图。
为什么是现在:闭环与行业落地
盘古的客户结构决定了它的落地重心不在聊天框里。钢铁冶炼、气象预测、矿山作业、金融风控是盘古长期深耕的场景,模型按L0基础、L1行业、L2场景三层组织,政务类部署可以做到全本地化。开源真正改变的是成本曲线:一个县级医院或地方农科院,现在有机会用可承受的算力跑自己的行业智能体。这与站内此前记录的美团LongCat-2.0在五万卡国产集群上跑通万亿参数模型是同一件事的两面——硬件侧证明集群可用,模型侧证明算法与算子能在国产栈上闭环。为什么重要:模型开源拉昇腾装机,装机规模摊薄算力成本,更多行业数据再回流训练,这个循环一旦转起来,追赶的就不再是单点指标,而是整条链路。
结语
参数表上的505B只是入场券。下半年7大组件能否如期全部开放、Pro在昇腾上的部署成本能否压到企业算得过来的区间,才是盘古2.0真正的考题,答案不用等太久。