英伟达253B开源新王登场，Llama 4三天变陪衬！直逼DeepSeek-R1成推理天花板

主要观点总结

英伟达推出开源推理模型Llama Nemotron系列，包括Nano、Super和Ultra三种规模，分别针对PC、边缘设备和数据中心使用。其中Llama Nemotron Ultra 253B模型以一半参数性能直逼DeepSeek R1，并且吞吐量提升显著。模型的卓越性能得益于测试时Scaling技术和后训练流程，能够同时作为推理模型和非推理模型运行。该系列模型可支持智能体工作流中的多种任务，并通过对传统计算scaling方法的改进，应用于更广泛的通用领域任务。多智能体协作系统通过模仿人类解决复杂问题写作模式，提升解决复杂问题效率并挖掘更多可能性。

关键观点总结

关键观点1: 模型概述及优势

Llama Nemotron系列模型是英伟达的开源推理模型，包含Nano、Super和Ultra三种规模，旨在满足不同场景和计算资源需求。该系列模型通过采用新颖的神经架构搜索方法，大大减少了模型的内存占用，从而支持更大的工作负载，并提高了效率（吞吐量）。

关键观点2: 模型性能与对比

Llama Nemotron Ultra 253B模型在多项基准测试中表现出卓越的性能，其推理性能接近或超越了其他顶级模型，如DeepSeek R1。与DeepSeek R1相比，其吞吐量提高了高达4倍。

关键观点3: 测试时Scaling技术

测试时Scaling技术是英伟达模型成功的关键之一。该技术能够在模型推理阶段投入更多计算资源，提升模型响应质量。通过这种方法，模型在关键下游任务上的性能得以提升。

关键观点4: 后训练流程

Llama Nemotron系列模型经历了广泛的后训练流程，包括神经架构搜索、监督微调、强化学习等阶段。这一流程不仅减小了模型尺寸，还保留了甚至增强了原始能力。后训练流程还确保了模型在推理开启和推理关闭两种模式之间自由切换的能力。

关键观点5: 多智能体协作系统

多智能体协作系统通过模仿人类解决复杂问题的写作模式，能够应对缺乏可验证解决方案的复杂任务。该系统通过集思广益、获取反馈、编辑修订和择优选取等步骤，为没有标准答案的开放式问题寻找最佳解决方案。