14款大模型能耗爆炸：DeepSeek竟然第一

主要观点总结

本文研究了不同AI模型在推理过程中的能耗和碳排放情况。文章指出，具备推理能力的模型能耗和碳排量是非推理模型的4-6倍，但准确率并不一定更高。研究涉及14个开源大模型，发现模型参数规模、是否开启推理模式直接影响平均碳排量。最小模型Qwen 7B碳足迹最低但准确率不高，而最大推理模型Deepseek-R1 70B碳排量最高但准确率较高。研究还表明，添加推理组件可以在不大幅增加碳排量的情况下显著提高准确性。尽管研究存在局限性，但它揭示了能耗与模型准确性之间的关系，强调优化推理效率和回答的简洁性对推动更可持续的AI技术发展至关重要。

关键观点总结

关键观点1: 研究揭示了推理模型和非推理模型在能耗和碳排放方面的差异。

研究发现具备推理能力的模型在回答同类问题时，能耗和碳排量是非推理模型的4-6倍。但轻量级模型在某些简单任务上展示出更高的能效。

关键观点2: 不同模型的能耗和准确率表现不同。

研究涉及了多个开源大模型，发现模型参数规模、是否开启推理模式等因素直接影响平均碳排量。同时，开启推理模式的Cogito 70B在性能和效率之间取得了平衡，实现了较高的准确率并降低了碳排放。

关键观点3: 研究强调了优化推理效率和回答简洁性的重要性。

研究者称，优化推理效率和回答的简洁性，尤其是在具有挑战性的学科中，对于推动更可持续、更环保的AI技术发展至关重要。目前，业内已在探索限制模型推理长度的方法，但这些方法的能效提升效果仍需进一步观察。