科技丨DeepSeek or Qwen：大模型长文本技术路线中，谁代表未来？

主要观点总结

本文讨论了关于稀疏注意力机制和线性注意力机制在大模型未来方向上的讨论。DeepSeek使用的稀疏注意力机制和Qwen3-Next使用的线性注意力机制各有优点，引发知友们的热烈讨论。知友们还提到了混合注意力机制的可能性以及不同注意力机制的结合等话题。

关键观点总结

关键观点1: 稀疏注意力机制和线性注意力机制的优势与局限

稀疏注意力机制能够节省计算资源，但在实际运行中可能存在速度问题。线性注意力机制追求更快的长文本处理能力，但在处理大规模文本时效果可能打折扣。

关键观点2: 知友们的不同观点

知友们对这两种机制都有关注，并从实际应用、长期发展和技术路线等方面提出了自己的看法和预测。有人认为短期内稀疏注意力机制更稳定，而线性注意力机制在创新方面有很大潜力。还有知友提到了混合注意力机制的可能性，以及不同注意力机制的结合等话题。

关键观点3: 其他相关话题

知友们还讨论了AI领域的其他话题，如AI产品的扶持计划、AI社群、知乎科技账号正式登陆X等。