窥见美国AI的未来 | 95条预判，关于技术、政治、宗教、经济、对抗…

主要观点总结

本文总结了关于美国AI发展的95个判断，涉及AI的加速发展、开源与闭源争议、技术创新的路径选择、生物学的信息化本质、超级智能的潜在风险、监管问题以及技术引发的社会转型等方面。文章深入剖析了AI发展的多个关键点，包括AI的潜在风险、应对策略以及技术与社会的关系等。

关键观点总结

关键观点1: AI发展正在加速，过去12个月的进展是最缓慢的，但仍需关注其潜在风险。

作者指出，AI的发展速度在加快，但过去一年的进展相对较慢。Scaling LLM等技术的发展仍面临诸多挑战，如最小化交叉熵损失等优化准则的应用。同时，为了获得超越人类的推理能力，需要探索新的训练方法，如强化学习和自博弈等。然而，这些新技术的进展也带来潜在风险，需要关注其对社会和科技发展的影响。

关键观点2: 开源与闭源模型的差距在扩大，但真正的开源不仅仅是开放模型权重。

作者认为，随着时间的推移，闭源模型与开源模型之间的差距在不断扩大。真正的开源不仅仅是开放模型权重，还包括开放训练数据和代码。这可以阻断带有Sleeper Agent或污染数据的模型传播开来。因此，需要关注开源与闭源的争论及其背后的深层次问题。

关键观点3: 技术创新有加速和减速之外的选择，未来十年是关键时期。

作者指出，未来十年是人类发展史上最关键的时期，决策影响力远超历史上的任何时期。可以信仰技术，但也要知道几乎所有领域都在支持加速主义。因此，在技术创新的过程中，除了加速和减速之外，还需要探索其他的选择。

关键观点4: 生物学本质上也是信息技术，有可能创造出任意的有机体。

作者认为，生物学的复杂性来源与梯度下降和扩散过程非常类似，受到相对简单的奖励信号和超参数的引导。因此，有可能通过基因工程创造出高智商的超智能人类。

关键观点5: 构建统一的超级智能更多是意识形态的追求，存在危险性和破坏性。

作者指出，构建统一的超级智能更多是意识形态的追求，具有危险性和破坏性。因此，需要关注超级智能的竞赛及其对国家主权的影响。同时，也需要关注先进AI技术在加速科学发展、攻克疾病等问题上的应用。

关键观点6: 全面的AI监管法案尚早，政策制定需保持谨慎和自主。

作者认为，在技术拐点制定全面的法律监管并不明智，因为被监管对象的本质仍在不断变化。应对AI的最佳政策可能是把针对性监管与大多数领域的全面「放松管制」结合起来。同时，各国应该重点关注公共部门的现代化和监管沙盒的创建。

关键观点7: 技术引发的社会转型全面且复杂，可能打破全球权力平衡。

作者指出，技术的快速变革会打乱现有的公共选择和政治经济约束，使得局势更加动荡难测。同时，技术引发的社会转型也可能打破全球权力平衡，增加爆发热战的风险。

免责声明