恺明新作Fluid：文生图质量刷新纪录

主要观点总结

本文探讨了自回归模型在文本生成图像任务中的扩展行为，特别关注了使用离散或连续token以及随机或光栅顺序生成的影响。通过实证研究，提出了使用连续token的随机顺序模型（即Fluid）在各项评估指标和视觉质量上表现出最佳性能和扩展性。该模型在MS-COCO数据集上取得了最先进的文本生成图像性能。

关键观点总结

关键观点1: 研究背景

文章探讨了自回归模型在文本生成图像领域的表现，特别是在扩大模型规模时的性能变化。

关键观点2: 研究问题

文章关注两个问题：模型使用离散还是连续的token，以及在生成token时采用随机顺序还是固定顺序（基于BERT或GPT的Transformer架构）。

关键观点3: 研究方法

文章通过实证研究，对比不同模型在使用离散或连续token，以及在随机顺序或光栅顺序生成时的表现。

关键观点4: 解决方案

基于实验结果，文章提出了一种新的模型——Fluid，该模型使用随机顺序的自回归生成方式，并基于连续token进行训练。

关键观点5: 实验结果

使用连续token的模型在视觉质量上显著优于使用离散token的模型。随机顺序的模型在GenEval评分上优于光栅顺序的模型。Fluid 10.5B模型在MS-COCO 30K数据集上实现了新的零样本生成的FID记录，并在GenEval基准上获得了0.69的综合评分，达到当前最佳表现。

关键观点6: 结论

文章通过实证研究揭示了自回归模型在文本生成图像任务中的扩展行为，并基于这些发现提出了Fluid模型，取得了最先进的文本生成图像性能。