中国智算建设潮背后，谁在推动十万卡集群

主要观点总结

本文介绍了中国云厂商在打造十万卡集群方面的进展和考虑因素。随着大模型的广泛应用，企业对算力的需求日益增长，云厂商面临压力同时也寻求技术创新。国内企业开始转向强化学习以应对算力需求，而云厂商则通过解决十万卡集群技术难题，提高资源利用率，降低成本。文章还提到了国内云厂商在合作推动大模型技术浪潮中的市场快速演进。

关键观点总结

关键观点1: 中国云厂商在打造十万卡集群上的进展

多家国内头部企业已有动作，百度解决了十万卡集群的两个难题，一些大中型互联网企业、车企、头部央企等都在训练自己的行业或企业大模型

关键观点2: 企业智算投资的热情

高校、车企、教育行业等不同领域的企业对智算基础设施的需求增长，投入意愿更强烈，基于最优秀的开源模型做好后训练，成为行业主流方案

关键观点3: 云厂商面临的挑战和策略

企业需求进一步拉动智算市场，云厂商面临压力，必须解决高速网络互联、集群稳定性、资源利用率、大模型训练和推理工具等需求。他们通过搭建大型集群，动态分配计算资源，提高资源利用率，降低成本。

关键观点4: 大模型的应用和未来发展

大模型正在进入更多产业，明年算力需求还会以训练为主，企业对算力的性能和成本提出进一步诉求。同时，国内龙头企业开始转向强化学习，以降低模型训练对算力的需求。