国内AI算力市场需求——云厂训练和推理投入分配情况解析

主要观点总结

本文分析了当前国内AI算力训练市场的情况，指出腾讯储备了充足的训练芯片无需担忧短缺问题，并强调了腾讯的产品导向。文章还提到了AI算力市场已经进入以推理为主导的阶段，训练市场主要集中在大厂。腾讯、阿里巴巴和字节跳动在训练和推理的投入比例上有不同的策略。同时，二手训练设备进入国内市场的情况对合规卡及推理市场产生了影响。

关键观点总结

关键观点1: 腾讯储备充足训练芯片，强调产品导向。

腾讯在电话会议中提到公司储备了充足的训练芯片。在策略上，腾讯更注重打造优质产品，对底层模型的选择策略是灵活使用的。这显示了腾讯的产品导向。

关键观点2: AI算力市场进入推理主导阶段。

当前，无论是国内还是国外，AI算力市场都已进入以推理为主导的阶段。国内企业对H20的追捧也印证了这一点。

关键观点3: 训练市场主要集中在大厂。

目前，训练市场已经正式回归大厂主导的逻辑。大厂如阿里巴巴、字节跳动和腾讯之间的竞争非常激烈，大模型训练呈现出零和博弈态势。

关键观点4: 大厂在训练和推理的投入分配上有不同策略。

根据第三方调研纪要，阿里巴巴的训练和推理投入比例约为8:2，而字节跳动的比例约为50%对50%。而腾讯的情况则相反，估计比例为2:8。

关键观点5: 二手训练设备进入国内市场对合规卡及推理市场产生影响。

大量海外下架的二手训练设备正快速进入国内市场，预计将导致训练设备价格大幅下降，并对合规卡及推理市场带来冲击。但从长期来看，推理算力市场的成本降低有望刺激下游应用。