牛顿力学在AI中失效？Transformer模型能完美预测却不懂物理，哈佛团队揭示模型缺失物理常识

主要观点总结

本文研究了人工智能模型在预测行星轨道和解释物理定律方面的能力。研究发现，虽然模型能够精准预测行星轨道，但并未掌握引力定律等深层物理机制。研究团队通过构建框架来检验模型是否习得世界模型，并发现模型对牛顿力学的归纳偏置较低。同时，团队测试了模型在掌握牛顿力学方面的程度，发现模型并未习得通用的物理定律。文章还讨论了基础模型的缺陷和未来研究方向。

关键观点总结

关键观点1: AI模型能够精准预测行星轨道，但缺乏对引力定律等物理机制的理解。

研究团队使用Transformer模型进行预测，并通过归纳偏置探针检验模型是否掌握物理定律。结果发现，尽管模型能够做出准确预测，但其归纳偏置并不倾向于牛顿力学，而是依赖于粗略的状态表征或非简约的表征。

关键观点2: 研究团队构建了评估框架来验证模型是否习得预设世界模型。

该框架通过分析模型在新任务迁移中的归纳偏差来验证模型是否掌握了世界模型。实证结果表明，许多序列模型在新任务中的归纳偏置有限，并没有习得连贯的世界模型。

关键观点3: 基础模型的缺陷和未来研究方向。

基础模型的缺陷在于它们并没有习得某一通用物理定律，而是根据任务采用不同的、看似毫无意义的定律。未来研究需要开发能够自动构建基础模型行为中隐式世界模型的技术。

免责声明