Llama 4 开源！支持1000万上下文长度

主要观点总结

文章介绍了Llama 4的三个版本：Llama 4 Scout、Llama 4 Maverick和Llama 4 Behemoth。它们分别有不同的活跃参数和特性，如上下文窗口长度、专家MoE模型、LLM竞技场得分、多模态识别支持以及在各项基准测试中的表现等。文章还提到了模型的训练状态、运行速度、推出平台和免费版本等信息。

关键观点总结

关键观点1: Llama 4的三个版本及其特性

Llama 4 Scout是17B活跃参数的16位专家MoE模型，具有1000万上下文窗口长度，可在单个NVIDIA H100 GPU上运行；Llama 4 Maverick在LLM竞技场得分最高，支持图像多模态识别；Llama 4 Behemoth在多项STEM基准测试中超越了其他模型，具有288B活跃参数。

关键观点2: Llama 4的性能和排名

Llama 4在LLM竞技场总榜第二，开源LLM排名第一。它在硬性提示、编码、数学、创意写作等方面表现出色，大幅超越了Llama 3。

关键观点3: 模型的推出和免费版本

Llama 4 Scout和Maverick已在OpenRouter上推出，并且有免费版本。Groq上的Llama 4 Scout运行速度为511 Token每秒。

免责声明