训练1000样本就能超越o1，李飞飞等人画出AI扩展新曲线

主要观点总结

本文介绍了斯坦福大学等机构推出的一种新方法s1，通过简单的测试时间扩展和预算强制技术，实现了大模型的推理效率提升。研究人员使用s1K数据集对Qwen2.5-32B-Instruct进行监督微调，得到了s1-32B模型，在竞赛数学问题上的表现比o1-preview高出27%。文章还介绍了测试时间扩展的分类、预算强制的具体方法以及基线测试的方式等。

关键观点总结

关键观点1: s1方法简介

斯坦福大学等机构推出了一种新方法s1，使用测试时间扩展和预算强制技术，实现了大模型的推理效率提升。

关键观点2: s1模型的表现

研究人员使用s1K数据集对Qwen2.5-32B-Instruct进行监督微调，得到了s1-32B模型，其在竞赛数学问题上的表现比o1-preview高出27%。

关键观点3: 测试时间扩展的分类

本文将测试时间扩展分为序列扩展和并行扩展两类，并专注于序列扩展，因为直观上其具有更好的扩展性。

关键观点4: 预算强制的方法

本文提出了一种简单的解码时间干预方法——预算强制，通过在测试时强制设定最大或最小思考token数量来实现。

关键观点5: 实验与评估

文章介绍了基线测试的方法，包括条件长度控制方法和拒绝采样。实验部分包括训练阶段、评估阶段和其他模型的对比。

免责声明