我为什么离开OpenAI？六年元老发离职长文：AGI将至，我们远没准备好

主要观点总结

前OpenAI高级顾问Miles Brundage发表长文，详细解释了自己离开OpenAI的原因。他希望通过非营利组织在AI政策研究和倡导上发挥更大影响力，强调政策和外部研究的重要性。他提出了离开OpenAI的多个关键因素，包括机会成本、减少偏见以及希望在更大程度上影响整个生态系统等。同时，他也对AGI的未来提出了自己的见解和预测。

关键观点总结

关键观点1: 前OpenAI研究主管、AGI准备工作的高级顾问Brundage决定离开OpenAI。

他计划加入非营利组织，将重点放在AI政策研究和倡导上。

关键观点2: Brundage离职的主要原因包括机会成本、减少偏见和希望在更大程度上影响整个生态系统。

他认为在行业内很难独立发表观点和从事重要研究课题，而且行业内部的声音可能过于单一。

关键观点3: Brundage强调了政策和外部研究在AI发展中的重要性。

他认为政策研究有时候在外部进行更加有利，特别是在安全和保障方面。

关键观点4: Brundage对AGI的未来持有技术乐观主义态度。

他认为在未来几年内，人工智能可能会实现足够的经济增长，但也可能带来一些挑战和风险。

关键观点5: Brundage认为人们需要更多的思考、辩论和政策讨论来应对未来的挑战。

他提到了文明停滞的风险以及民间社会和政府的技术专业知识不足的问题。