上海交大张拳石：思维链只是表象，DeepSeek凭什么更强 | 智者访谈

主要观点总结

上海交通大学张拳石教授在神经网络可解释性研究领域开创了新的理论框架，提出「等效与或交互」解释性理论，用严谨的数学符号化方式证明神经网络的内在表征逻辑，为理解泛化性、鲁棒性和过拟合提供了新的视角。面对大模型发展的各种挑战，张教授强调了理论创新的重要性，并认为研究者需要等待一个真正值得投入的问题，而不是仅仅追求表面效果。

关键观点总结

关键观点1: 张拳石教授开创了神经网络可解释性新理论

张拳石教授提出「等效与或交互」解释性理论，用数学方式证明神经网络的内在表征逻辑，为理解神经网络内在机制提供了新视角。

关键观点2: 理论创新的重要性

张拳石教授强调，相比用十年时间去优化一个复杂系统，更多是用十年去等待一个真正值得投入的问题，这对于推动 AI 领域的发展至关重要。

关键观点3: 可解释性在 AI 应用中的重要性

张拳石教授认为，在医疗诊断、自动驾驶等高风险领域，理解 AI 的决策过程至关重要，可解释性研究有助于提升 AI 的安全性和可靠性。

关键观点4: 寻找 AI 研究中的「大问题」

张拳石教授建议研究者应寻找共性问题、能够进行数学建模、且能开辟新路径的问题，而不是跟随潮流，这样才能建立起自己的影响力。

关键观点5: 解释性研究与实际应用的关系

张拳石教授认为，解释性研究是对神经网络的补充，有助于提升 AI 的可控性，而不是简单地追求性能提升。