论文浅尝 | 提高大型语言模型的数学推理能力的学习定理基本原理（AAAI2025）

主要观点总结

该笔记主要介绍了兰雅榕在浙江大学的研究工作，针对大型语言模型（LLM）在数学推理方面的不足，提出了一种新的方法——定理原理（TR）以增强LLM将数学定理应用于具体问题的能力。论文涉及数据集的构建、方法的提出、实验的设置和结果的分析等。

关键观点总结

关键观点1: 研究动机

提高开源大型语言模型（LLM）的数学推理能力是一项有价值的挑战。尽管现有方法利用涉及思维链（CoT）原理的注释或生成的问题-解决方案数据对模型进行微调，但对于复杂的数学问题效果不大，且忽略了结合问题思考相应定理的显性思维过程。

关键观点2: 主要贡献

1）论文提出了一种明确学习如何将定理应用于具体问题的方法，并收集包含TR原则的数据集；2）设计了策略，从问题-定理对中自动演化出面向定理的指令，有助于从多个层次的视角学习TR；3）使用该方法在特定数据集上微调的模型实现了持续的改进，展现了其在提升LLM数学推理能力方面的潜力。

关键观点3: 方法介绍

论文引入了定理基本原理，涉及为特定问题选择和利用定理原则的联合分布定义。一个关键点在于将特定定理集和特定问题结合的过程。论文通过引入特定的提示来刺激LLM从原始问题-答案对中自动扩展涉及TR的问题-定理-解三元组，并伴随启发式算法进行进一步筛选，以确保数据质量。

关键观点4: 实验与结果

论文进行了广泛的实验，结果显示，使用包含TR原则的数据集调整的模型获得了强大的数学能力。此外，论文还证实了明确引入与定理相关的思想对于提升闭源LLM性能的有效性。该工作为未来的数学推理和纠错工作提供了新的视角。