返璞归真！MIT何恺明再次颠覆生成模型：抛弃“去噪”，Diffusion模型直接预测干净图像！

主要观点总结

本文回归扩散模型中“去噪”的核心理念，展示了一个在原始像素上操作的、简单而强大的“Diffusion + Transformer”范式是可行的。通过遵循流形假设，即自然数据位于一个低维流形上，研究者在ImageNet上实现了强大的结果，并且可以优雅地扩展到1024分辨率。这项工作通过纯粹的图像Transformer（JiT模型）实现了一个自包含的生成模型，无需依赖分词器、预训练或辅助损失。该工作有望成为在其他难以设计分词器的科学领域找到更广泛应用的基础。

关键观点总结

关键观点1: 回归扩散模型中“去噪”的核心理念，展示“Diffusion + Transformer”范式的可行性。

本文通过将扩散模型与Transformer结合，通过去噪的方式实现图像生成，取得了显著的效果。

关键观点2: 遵循流形假设，即自然数据位于一个低维流形上。

本文基于流形假设，认为自然图像数据存在于一个低维流形上，从而实现了对图像的有效表示和学习。

关键观点3: 使用纯粹的图像Transformer（JiT模型）实现自包含的生成模型。

本文提出的JiT模型是一个纯粹的图像Transformer，可以在原始像素上操作，并且无需依赖分词器、预训练或辅助损失。

关键观点4: 取得强大的生成结果，并优雅地扩展到1024分辨率。

本文的模型在ImageNet上取得了强大的生成结果，并且可以扩展到更高的分辨率，如1024分辨率，展示了其良好的可扩展性。

关键观点5: 有望成为在其他领域找到更广泛应用的基础。

本文的工作有望为其他难以设计分词器的科学领域提供启示和借鉴，推动相关领域的发展。