2030年，AGI概率至少10%！AI范式转变快，谁能预测GenAI下一代？

主要观点总结

新智元报道提到，Epoch AI高级研究员预测实现人类水平的AI的可能性至少为10%，他认为AI的发展从监督学习到GenAI，模型范式转变迅捷，预测AI只能从第一性原理出发。文章讨论了预测AI能力的两种方法：基于当前AI能力的外推预测和第一性原理推理。采用两种方法结合，认为到2030年实现人类智力水平的AI可能性至少为10%。文章还提到，由于AI未来的经济收益主要来源于目前尚未掌握的任务，因此仅仅依赖外推法可能会低估AI的发展速度及影响力。预测AI的方法包括参考人类大脑的能力和资源使用情况等。根据人类大脑的能力为AI发展提供了理论上的下限。文章指出，应该更乐观地看待AI的进展，从各种任务的内在难度出发思考。许多人现在提出的关于生成式AI系统能力受限的论点，如果放在过去预测AI系统的局限性，可能会表现不佳。文章希望预测更准确，不应依赖过去表现不佳的预测方法。

关键观点总结

关键观点1: AI的发展从监督学习到GenAI，模型范式转变快速。

Epoch AI高级研究员预测实现人类水平的AI的可能性至少为10%。从监督学习到GenAI，AI模型经历了快速转变。采用第一性原理推理预测AI的能力，发现到2030年实现人类智力水平的AI的可能性至少为10%。

关键观点2: 预测AI的两种方法。

一种方法是基于当前AI能力的外推预测，另一种方法是从第一性原理出发进行推理。两种方法各有优势和局限，实践中可能结合使用以获得更全面的视角。

关键观点3: AI未来的经济收益主要来源于尚未掌握的任务。

仅仅依赖基于历史数据和趋势分析的外推法可能会低估AI的发展速度及影响力。因为AI的未来经济收益主要来自于目前尚未掌握的任务，这些任务对于当前的AI系统来说难度很大。

关键观点4: 参考人类大脑的能力和资源使用来预测AI的发展。

为了预测AI的能力，可以借鉴人类大脑的能力和资源使用情况作为参考。根据人类大脑的能力，可以为AI的发展提供理论上的下限。

关键观点5: 应更乐观地看待AI的进展。

不应仅仅依赖当前AI系统的能力或变化速度来预测未来，应该从各种任务的内在难度出发思考。应该期待AI在尚未掌握的任务上能够取得突破性的进展。