一周发明GAN！时间检验奖得主分享背后故事：每件发明都不是最后的发明

量子位 · 公众号 · AI · 2024-12-11 12:25

主要观点总结

本文回顾了生成对抗网络（GAN）的起源、发展历程及其获得NeurIPS时间检验奖的背后故事。文章主要讲述了GAN的提出背景、研究团队遇到的挑战、以及GAN作为第一作者Ian Goodfellow的经典论文的撰写和发布过程。同时，文章还讨论了GAN对人工智能整体进步的影响，并强调了GAN并不是最后的发明。

关键观点总结

关键观点1: GAN的起源和背景

Yoshua Bengio提出构建确定性的生成网络g，该网络仅在输入z中包含随机噪声并产生样本。面临如何训练这个隐式网络的概率分布匹配问题。在餐厅聚餐中，Ian Goodfellow提出了让另一个神经网络充当判别器的想法，这是GAN的核心思想。

关键观点2: GAN的研究团队和论文撰写

研究团队包括Yoshua Bengio、Ian Goodfellow等人。论文的撰写是在紧急情况下完成的，距离NeurIPS 2014的提交截止日期只有一周时间。经过几天的努力，他们设置了评估方法，尝试了不同的架构、噪声函数和博弈公式，最终完成了论文并提交。

关键观点3: GAN的影响和演进

GAN作为第一篇学术论文对作者Sherjil Ozair来说既是福也是祸。GAN的发展象征了AI整体的进步，但作者认为没有哪个发明是最终的，包括CNN、LSTM等。现在虽然Transformer和大语言模型很受欢迎，但它们也不是最后的发明。作者最近离开了前沿AI实验室，开始创办一家公司来构建真正令人惊叹的东西。