心理观察45｜“有效加速主义”还是“超级对齐”——OpenAI高层变动“大戏”带来的思考

主要观点总结

本文介绍了人工智能的发展阶段，特别是AGI（Artificial General Intelligence）的研究进展，探讨了人工智能与智力心理学的关系，以及人工智能发展所面临的挑战和不确定性。文章还介绍了AGI的应用和可能的风险，并提到了心理学家和技术人员对AI发展的担忧和建议。

关键观点总结

关键观点1: 人工智能的发展已经到达一个转折点，心理学与人工智能的结合在认知心理学领域引起了重大变革。

人工智能的研究进程与智力心理学的路径相反，从特定领域开始，通过机器学习不断提升，逐渐发展出具有通用智能的AGI。

关键观点2: AGI的研究进展引发了关于其进化原理的争议。

顶级科学家如Hinton和伊利亚对AGI的进化原理尚不完全清楚，他们强调有必要对“学习”、“经验”、“思维”等概念进行新的反思和界定。

关键观点3: Open AI的CEO奥尔特曼的离职和回归反映了科技价值观的对立。

有效加速主义和技术伦理左派之间存在直接对峙，前者主张无条件加速技术创新并快速推出，而后者则担心AGI可能带来的风险，主张暂时放慢研发速度并采取预防措施。