NeurlPS 2024 | 揭秘大模型内部工作机制！Diff-eRank为大模型评估提供全新视角与...

主要观点总结

本文介绍了大语言模型的发展，尤其是从单模态到多模态的扩展。由于现有的评估方法存在局限性，研究者提出了一种全新的评估指标Diff-eRank，用于评估大语言模型的性能。Diff-eRank基于模型表征的「有效秩」进行分析，并从信息论和几何学的角度衡量模型如何剔除冗余信息。此方法已被NeurIPS 2024接收，论文详细描述了Diff-eRank的构造过程、实验结果及其在多模态大模型评估中的应用。此外，文章还介绍了MIFA实验室的相关情况。

关键观点总结

关键观点1: 大语言模型的发展及评估挑战

大语言模型如GPT、PaLM、Llama等在各自然语言处理任务中表现出优秀性能，但如何全面、科学地评估这些模型的性能成为研究者面临的重要挑战。传统的评估方法如准确率、交叉熵损失等无法深入探究模型内部的信息处理过程，对于多模态大模型，现有的评估指标无法给出诸如模态之间的对齐程度等更重要维度上的评价。

关键观点2: Diff-eRank评估指标的出现

为了解决这些挑战，研究者提出了一种全新的大模型评估指标Diff-eRank。这是一种基于模型表征的「有效秩」的评估指标，从信息论和几何学的角度分析并量化大语言模型在训练前后如何剔除冗余信息，并以此衡量模型性能。

关键观点3: Diff-eRank的构造过程和原理

Diff-eRank的构造过程包括选择句子中的tokens构建协方差矩阵，计算有效秩（eRank），然后计算Diff-eRank。这个指标通过比较未训练的语言模型和训练完成的语言模型在句子上的表征的有效秩差异来评估模型性能。有效秩与模型表征空间的不确定性或混乱程度有关，因此Diff-eRank可以反映模型的内部表征的有序性和结构化程度。

关键观点4:

Diff-eRank的思想可以扩展到多模态大模型的评估。通过比较不同模态表征之间的有效秩匹配程度来评估模态对齐性能。在实验中，LLaVA-1.5和MiniGPT-v2等多模态大模型在图像和文本对齐任务上表现出良好的对齐性能。

关键观点5:

MIFA实验室是本文研究的主要团队，实验室以长期的、有影响力的研究为驱动，致力于消除人工智能理论与实际应用之间的鸿沟。实验室与多所知名高校、国家实验室、三甲医院以及业界大厂保持着紧密的学术合作与交流关系。