“大模型六小虎”被曝获20亿融资，放出首个推理模型技术秘籍！

主要观点总结

本文介绍了MiniMax的新动向，包括其接近完成的新一轮融资、估值超过40亿美元，以及推出的首个推理模型MiniMax-M1。文章详细阐述了MiniMax-M1的技术特点，如混合线性注意力、闪电注意力机制等，并探讨了模型架构创新、RL训练、长上下文应用等核心话题。同时，文章还提到了其他大模型领域的创新动态，如月之暗面放出的最新MoE架构基础模型Kimi K2。整体来看，大模型领域的竞争态势激烈，各家企业都在通过技术创新开发更实用、更低成本的模型。

关键观点总结

关键观点1: MiniMax接近完成新一轮融资，投后估值超过40亿美元。

近日，“大模型六小虎”之一的MiniMax新动向频发。据报道，MiniMax正在筹备赴港上市。此前，MiniMax前脚宣布启动“发布周”，发布了多个新模型；后脚外媒彭博社就爆料其正在筹备赴港上市。

关键观点2: MiniMax发布了首个推理模型MiniMax-M1，展现了模型架构创新和RL训练的最新探索。

MiniMax-M1是其在模型架构、算法创新上的最新探索。该模型采用了混合线性注意力和闪电注意力机制，针对有限上下文长度进行了RL训练，增强了模型能力。

关键观点3: 长上下文在Agent工作流中有巨大潜力，是模型处理复杂任务的关键。

长上下文在Agent完成任务时，能将整个代码库、API参考文档、历史交互数据等全部一次性喂给Agent。这种任务不能分几次调用来处理，因为智能体掌握的信息越多，产出的质量就越高。

关键观点4: 混合架构将成为主流，脱离硬件的纯粹算法研究正逐渐失去关注度。

随着对大规模部署和低延迟需求的增长，混合架构因其推理效率和推理能力而受到关注。现在的大模型领域，单纯的算法研究已经不足以吸引关注，必须能够规模化并且高效部署才能获得关注。

免责声明