主要观点总结
本文介绍了'无问芯穹'这家AI Infra(大模型基础设施)创业公司,该公司通过整合异构算力,让大模型落地更便宜,并提供AI的基础设施建设。公司通过软硬件联合优化技术和多元异构算力适配技术,提高芯片算力在大模型任务中的利用率和集群算力利用率。此外,公司还布局企业级基础设施、端侧LPU,并已经在商业化层面取得进展。
关键观点总结
关键观点1: “无问芯穹”获得近5亿元A轮融资,是国内AI Infra创业公司最大的单笔融资记录。
本轮融资由社保基金中关村自主创新专项基金等领投,跟投方包括联想创投、小米等战略投资方和多家国资基金及财务机构。
关键观点2: “无问芯穹”通过软硬件联合优化技术和多元异构算力适配技术,解决异构算力难以有效利用的问题。
公司自研的推理加速技术可以提升主流硬件推理效率2-4倍,并且已经在多种计算卡上完成适配。此外,公司还发布了大规模异构分布式混合训练系统HETHUB,实现了千卡规模的异构算力混合训练,集群算力利用率最高达到97.6%。
关键观点3: “无问芯穹”的目标是让大模型落地成本实现10000倍下降,成为大众触手可及的“水电煤”。
公司正在围绕“以电换Token”思路,展开AI的基础设施建设,并已经在商业化层面取得进展,包括与智谱联合发布大模型万卡训推计划、为猎聘旗下的AI大模型产品提供技术支持等。
关键观点4: “无问芯穹”布局企业级基础设施、端侧LPU,提供一站式AI平台和大模型服务平台。
公司的Infini-AI异构云平台提供算力服务,并且已经吸引多个大模型行业头部客户。此外,公司还打造“端模型+端芯片”闭环能力,帮助端侧场景快速增长和应用爆发。
免责声明:本文内容摘要由平台算法生成,仅为信息导航参考,不代表原文立场或观点。
原文内容版权归原作者所有,如您为原作者并希望删除该摘要或链接,请通过
【版权申诉通道】联系我们处理。