OpenAI重新开源！深夜连发两个推理模型，o4-mini水平，笔记本、手机可跑

主要观点总结

OpenAI发布了两个新的开源语言模型gpt-oss-120b和gpt-oss-20b。这两个模型具有强大的实际应用性能，并在推理任务上超越了同等规模的开源模型。它们提供了宽松的许可证、可调整的推理力度、完整的思维链、可微调性等功能。此外，这两款模型还具有系统兼容性，适用于智能体工作流。模型采用最先进的预训练和后训练技术，并关注推理、效率和在各种部署环境中的现实可用性。

关键观点总结

关键观点1: OpenAI发布两个开源语言模型：gpt-oss-120b和gpt-oss-20b。

这两个模型是SOTA级别的开源语言模型，提供强大的实际应用性能，具有低成本优势，并高效部署在消费级硬件上。

关键观点2: 模型特点

两个模型具有可调整的推理力度、完整的思维链、可微调性等功能。它们采用Transformer架构，利用专家混合（MoE）减少处理输入所需的活跃参数数量。两款模型完全可定制，提供完整的思维链，并支持结构化输出。

关键观点3: 模型后训练和技术细节

OpenAI使用与o4-mini相似的后训练流程，包括监督微调和高计算强化学习阶段。模型采用交替密集和局部带状稀疏注意力模式，使用分组多查询注意力提高推理和内存效率。模型原生支持最长128k的上下文长度。

关键观点4: 性能评估

GPT-OSS-120B在编程竞赛、综合问题解答及工具调用等方面表现出色，达到甚至超过O4-mini水平。GPT-OSS-20B在医疗查询和竞赛数学等领域也有突出表现。

关键观点5: 安全性和思维链

除了全面的安全训练和评估测试外，OpenAI还基于自身的准备框架测试了GPT-OSS模型的对抗性微调版本。模型的思维链过程有助于检测异常行为，对于监测模型滥用风险至关重要。

免责声明