重温神作《苦涩的教训》：预判了从 GPT 到 o1/r1 到 Manus，以及更多...

主要观点总结

本文是《苦涩的教训》的读后感，总结了AI研究的经验教训，强调了通用方法配合算力扩展的重要性，并指出了研究者试图将人类知识嵌入智能体的常见错误和长期影响。

关键观点总结

关键观点1: AI研究中的通用方法和算力扩展的重要性

文章强调了AI研究中通用方法的力量，这些方法能够随着算力的增加而持续扩展，即使算力变得非常大也能继续扩展。作者指出，能够这样无限扩展的方法似乎只有两种：搜索和学习。作者通过回顾AI领域的历史发展，如国际象棋、围棋、语音识别和计算机视觉等领域的案例，来验证这一观点。

关键观点2: 心智复杂性的认知

文章指出心智的实际内容极其复杂，这种复杂性无法简化。作者提倡停止寻找简单的方式来思考心智的内容，而应该只嵌入能够发现和捕捉这种任意复杂性的元方法。这些方法的关键在于：它们能够找到好的近似解，但寻找的过程应该由AI方法来完成，而不是由人类亲自来完成。

关键观点3: 将人类知识嵌入智能体的误区

作者批评了AI研究者试图把知识嵌入智能体的常见做法，指出虽然在短期内有帮助，而且让研究者个人很有成就感，但长期来看会遇到瓶颈，甚至阻碍进一步发展。作者通过多个领域的案例说明，突破性进展最终来自相反的方法，即通过搜索和学习来扩展算力。作者呼吁要理解这些错误为什么有吸引力，并学会这个苦涩的教训：把我们自以为的思维方式嵌入系统，长期来看行不通。