综合科普 | 别只给我答案，给我看看你的草稿纸：为什么未来的AI必须学会“讲道理”？

主要观点总结

文章讨论了人工智能的发展问题，特别是人工智能的可验证推理能力的重要性。文章提到以大型语言模型为代表的生成式AI展现出惊人的能力，但存在“黑盒问题”，即人们不清楚AI如何得出答案。在风险较高的领域，如医疗、法律和金融，AI的可解释性和可验证性变得至关重要。未来的AI研究需要跨越单纯追求结果准确性的阶段，转向追求可验证推理。实现这一目标并不容易，目前主流的深度学习架构存在处理符号逻辑和因果推理方面的短板。研究人员正在探索各种路径，如结合传统的符号逻辑推理与现代的神经网络，开发新的训练方法等。

关键观点总结

关键观点1: 生成式AI展现出惊人的能力，但存在‘黑盒问题’

人们不清楚AI是如何得出答案的，特别是当涉及到高风险领域的决策时，这让人感到不安。

关键观点2: AI的可解释性和可验证性在高风险领域变得至关重要

医生、法官等需要知道AI的决策依据，以便对其决策进行负责和审查。

关键观点3: 未来的AI研究需要追求可验证推理

研究人员正在探索各种方法来实现这一目标，如结合符号逻辑推理与神经网络，开发新的训练方法等。

关键观点4: AI的可验证推理能力对于建立人类对其信任至关重要

只有当AI不仅能告诉我们答案，还能清晰地论证为什么得出这个答案时，人工智能时代才算真正到来。