哈萨比斯：谷歌想创造第二个Transformer，还想把AlphaGo和Gemini强强联合

主要观点总结

DeepMind 首席执行官兼联合创始人 Demis Hassabis 在与汉娜·弗莱的对谈中，分享了关于 AI 发展、公司规划以及通用人工智能（AGI）的看法。他认为 AI 在短期内被过度炒作，但长期被低估。他强调了 Google Brain 和 DeepMind 的合并带来了创新机会，并计划发明下一个推动 AI 前沿的架构。他提到基准测试的重要性，并认为 AI 还需要在多模态理解、长期记忆和推理能力等方面有所进步。谷歌打算将 AlphaGo 在规划和决策上的优势与 Gemini 等多模态模型结合，开发具备更强智能体行为的系统。对于开源，他认为前沿模型需要经过更多审核，并在发布一到两年后才能开源。他提到 AGI 的一个测试标准将是其是否能够自主生成像广义相对论那样的全新假设和理论。他认为 AGI 的部署需要建立安全的架构，并根据每个人的偏好、使用目的和部署目的，决定 AI 系统可以用来做什么，不能用来做什么。他强调了国际合作和理想合作的重要性，以确保在安全的环境中构建通用人工智能。他还提到了关于神经科学的看法，认为它目前对 AI 的影响较小，但理解大脑将是 AGI 的一个用例。最后，他表示 DeepMind 已经步入正轨，对 AGI 在未来十年内出现持乐观态度。

关键观点总结

关键观点1: AI 的短期与长期观点

Hassabis 认为 AI 在短期内被过度炒作，但从长期来看，它仍然被低估。他强调了 Google Brain 和 DeepMind 的合并带来的创新机会，并计划发明新的 AI 架构。

关键观点2: 基准测试与 AI 的发展

Hassabis 认为现有的学术基准测试已经饱和，无法区分顶级模型之间的细微差异。他认为需要更好的基准测试，特别是在多模态理解、长期记忆和推理能力等方面。

关键观点3: AI 的开源问题

Hassabis 表示前沿模型需要经过更多审核，并在发布一到两年后才能开源。他强调在开源之前需要非常谨慎，因为一旦发布，就无法撤回。

关键观点4: AGI 的测试标准

Hassabis 认为 AGI 的一个测试标准将是其是否能够自主生成像广义相对论那样的全新假设和理论。

关键观点5: AGI 的部署与监管

Hassabis 提到 AGI 的部署需要建立安全的架构，并根据每个人的偏好、使用目的和部署目的，决定 AI 系统可以用来做什么，不能用来做什么。他强调了国际合作和理想合作的重要性，以确保在安全的环境中构建通用人工智能。

关键观点6: 神经科学对 AI 的影响

Hassabis 认为神经科学对 AI 的影响目前较小，但理解大脑将是 AGI 的一个用例。

关键观点7: DeepMind 的未来与 AGI 的时间表

Hassabis 表示 DeepMind 已经步入正轨，对 AGI 在未来十年内出现持乐观态度。