从推理轨迹反推：gpt-oss背后的训练策略

主要观点总结

OpenAI在8月6日凌晨开源了两个MoE模型：gpt-oss-120b和gpt-oss-20b。这些模型原生支持MXFP4训练和推理。文章分析了OpenAI这次开源模型可能使用的技术细节，包括审议对齐这一新训练范式在安全对齐方面的应用，并讨论了模型在AIME、AIME24、AIME25和人类最后测试（HLE）中的表现。此外，文章还提到GPT-OSS在数学推理方面的优秀表现，并猜测OpenAI此次开源模型的目的以及模型预训练数据的处理方式。

关键观点总结

关键观点1: OpenAI开源了两个MoE模型：gpt-oss-120b和gpt-oss-20b。

这两个模型原生支持MXFP4训练和推理，并且gpt-oss-20b模型可直接在普通显卡上运行，速度可观。

关键观点2: 技术细节分析

文章分析了OpenAI可能使用的技术细节，包括使用审议对齐这一新训练范式来提高推理轨迹的信息密度，减少冗余信息。同时提到模型在AIME等各项测试中的表现。

关键观点3: GPT-OSS在数学推理上的表现

GPT-OSS在数学推理上表现出色，特别是在AIME测试中获得了高分。这可能与模型预训练数据经过严格的安全过滤有关。

关键观点4: OpenAI的开源目的猜测

文章猜测OpenAI此次开源模型的目的是展示其安全审议技术，并可能在Kaggle上创建比赛寻找模型的安全漏洞和有害行为。同时，模型预训练数据的处理方式也可能侧重于特定的领域，如数学和科学推理。

免责声明