姚期智：AGI时代比想象中来得快，安全治理是一个长期工作

主要观点总结

文章讨论了关于人工智能（AI）治理的问题，特别是在AI变得比人更聪明的情况下如何保证AI系统受人类掌控且符合人类价值观。在WAIC大会上，图灵奖得主姚期智谈到了AI的安全性以及全球顶尖人工智能科学家们的讨论和签署的上海共识。

关键观点总结

关键观点1: 人工智能治理的重要性

随着人工智能的发展，特别是通用人工智能（AGI）时代的到来，AI的安全性变得至关重要。AI的安全性没有理论上的保证，而且AGI可能在未来超越人类智能水平，存在失控风险。

关键观点2: 上海共识的内容

全球主要国家和地区必须对接协调，采取可信的安全举措。全球研究者必须联合起来，确保人工智能系统受人类掌控且符合人类价值观。上海共识呼吁国际社会共同确立并恪守可验证的全球性红线。

关键观点3: 姚期智的观点

姚期智强调了AI安全治理的重要性和长期性，认为上海在人工智能治理方面有着得天独厚的条件，未来在全球人工智能治理方面将会是世界上最重要的中心之一。他还建议年轻人要掌握好基础学业，包括数学、物理、计算机等，以应对未来的世界变化。

免责声明