AI将受困于人类数据

主要观点总结

本文报道了第七届北京智源大会的开幕式，强化学习奠基人Richard S. Sutton发表了关于人工智能从“人类数据时代”迈向“经验时代”的主题演讲。Sutton指出当前大型模型已逼近“人类数据”边界，唯有让智能体通过与环境实时交互来生成可随能力指数级扩张的原生数据，AI才能迈入“经验时代”。真正的智能应像婴儿或运动员那样在感知-行动循环中凭第一人称经验自我学习。面向超越人类的智能体与人机共生的远景，应保持理性乐观，这是一场需要几十年耐心长跑的工程。

关键观点总结

关键观点1: 人工智能从“人类数据时代”迈向“经验时代”的关键拐点。

Sutton指出当前大型模型逼近“人类数据”边界，需要智能体通过与环境实时交互生成原生数据。真正的智能体现在像婴儿或运动员那样凭第一人称经验自我学习。

关键观点2: AI技术发展趋势及对未来AI治理的影响。

智能体需要在真实或高保真模拟环境中持续运行，发展能够长期复用的世界模型与记忆体系。视角拓展至社会治理，强调去中心化合作的视角优于中心化控制。

关键观点3: 人工智能发展中不同目标的存在与合作的重要性。

Sutton提出去中心化合作的理念，认为智能体社会中不必所有智能体都有相同的目标。人类和AI的合作不应被单一目标束缚，而应允许差异和目标多样性。

免责声明