ICML 2025 Oral！北大和腾讯优图破解AI生成图像检测泛化难题：正交子空间分解

主要观点总结

本文介绍了北京大学与腾讯优图实验室等机构的研究人员针对AI生成图像检测任务的新研究。该研究通过正交子空间分解的方法，实现了检测模型从“记忆式背诵”到“理解式泛化”的跨越，显著提升AI生成图像检测的泛化能力。文章详细描述了研究的背景、挑战、解决方法、实验效果及启发。

关键观点总结

关键观点1: 研究背景

随着OpenAI推出GPT-4o的图像生成功能，AI生图能力得到提升，但如何区分生成图像和真实图像成为新的挑战。

关键观点2: 现有挑战

目前的研究在解决生成图像和真实图像区分上存在着泛化难题，即模型容易过拟合训练集的假类上，导致特征空间低秩且受限。

关键观点3: 解决方法

研究提出了一种基于正交子空间分解的方法，通过SVD构建两个正交的子空间，分别负责保留预训练知识和学习新的AI生成图像相关知识。

关键观点4: 实验效果

在DeepFake人脸检测和AIGC全图生成检测两个任务中取得不错效果。

关键观点5: 研究启示与展望

研究强调了语义对齐的重要性，并提出真假类别存在层次化关系。该研究提出的正交分解框架可迁移至其他AI任务，为平衡模型已有知识与在新领域的适应性提供了新的范式。

免责声明