720亿参数！华为首个开源大模型发布，用4000颗昇腾训练的

主要观点总结

华为开源盘古大模型系列，包括盘古Pro MoE和盘古Embedded 7B，以及基于昇腾NPU的模型推理技术。其中盘古Pro MoE是一个混合专家模型，性能超越Qwen3-32B等主流开源模型；盘古Embedded 7B则是一个引入“快思考”和“慢思考”双系统的大模型架构，可自动切换以应对不同任务复杂度。两者均已在昇腾平台上进行深度系统优化并实现了高效推理。

关键观点总结

关键观点1: 盘古Pro MoE模型介绍

盘古Pro MoE是一个混合专家模型，具有720亿个参数和基于昇腾NPU的模型推理技术。它采用MoGE架构设计，实现了专家负载均衡，提高了在昇腾平台的部署效率。该模型在多项基准测试中性能领先，并在昇腾800I A2上实现了高效的推理吞吐性能。

关键观点2: 盘古Embedded 7B模型特点

盘古Embedded 7B模型是一个具备“快思慢想”能力的双系统框架，可在延迟和推理深度之间实现平衡。该模型通过两阶段训练框架构建，具备元认知能力，能根据任务复杂度自动选择最优模式。它在多个权威基准测试中的表现优于其他规模相近的模型。

关键观点3: 昇腾NPU的作用

昇腾NPU在华为的大模型中扮演着重要角色。它支持大规模并行训练，提高了模型的推理性能。昇腾NPU与盘古大模型的协同设计，实现了高效的大语言模型推理。

免责声明