腾讯开源推理模型！13B参数比肩OpenAI o1，1张GPU就能跑

主要观点总结

腾讯混元宣布开源首个混合推理MoE模型Hunyuan-A13B，该模型总参数80B，激活参数仅13B，是业界首个13B级别的MoE开源混合推理模型。Hunyuan-A13B模型是腾讯内部应用和调用量最大的大语言模型之一，有超过400+业务使用。相比之前开源的混元large，Hunyuan-A13B性能有所提升。该模型具有快思考和慢思考两种模式，适合不同需求。对个人开发者友好，只需1张中低端GPU卡即可部署。已融入开源主流推理框架生态，支持多种量化格式，整体吞吐是前沿开源模型的2倍以上。同时，腾讯混元还开源了两个新的数据集ArtifactsBench和C3-Bench。

关键观点总结

关键观点1: 模型基本信息

腾讯混元宣布开源首个混合推理MoE模型Hunyuan-A13B，总参数80B，激活参数仅13B。

关键观点2: 模型的应用与效果

Hunyuan-A13B是腾讯内部应用和调用量最大的大语言模型之一，超过400+业务使用。在官方发布的基准测试上，表现较佳，甚至超越了一些其他模型。

关键观点3: 模型的特色功能

Hunyuan-A13B具有快思考和慢思考两种模式，适应不同需求。同时模型具有友好的开发者体验，个人开发者只需1张中低端GPU卡即可部署。

关键观点4: 模型的生态与影响

Hunyuan-A13B已融入开源主流推理框架生态，支持多种量化格式。同时腾讯混元开源了两个新的数据集ArtifactsBench和C3-Bench，展现了其参与行业标准制定的积极姿态和责任。

免责声明