（arxiv2025）TEAFormer，图像修复新突破，涨点起飞

主要观点总结

本文介绍了一篇关于图像复原Transformer的论文，该论文通过引入平移等变性（Translation Equivariance, TE）来提升图像复原任务的性能。文章阐述了论文的核心创新点，包括将TE作为归纳偏置融入模型，提出保留TE的策略，设计全新注意力模块TEA（Translation Equivariance Adaptive Attention）与主干架构TEAFormer等。

关键观点总结

关键观点1: 核心创新一：引入平移等变性（TE）

现代图像复原Transformer由于使用位置编码和非滑动式注意力机制，破坏了输入平移后输出也应随之平移的“平移等变性”属性，导致泛化能力和收敛速度下降。论文系统性地分析TE对图像复原网络的重要性，并作为结构设计的基础性原则重新融入模型。

关键观点2: 核心创新二：提出保留TE的策略

为了保留TE，论文提出了两大策略：滑动索引（Slide Indexing）和组件堆叠（Component Stacking）。滑动索引利用滑窗机制替代全局注意力，实现局部自注意力并保留位置一致性。组件堆叠则将具备TE性质的模块进行串联或并联组合，构建具有更强表达能力但不破坏TE的网络结构。

关键观点3: 核心创新三：设计全新注意力模块TEA和主干架构TEAFormer

论文设计了全新的注意力模块TEA，包括两个核心子模块ASkvSA和DSA。TEA模块结合这两个子模块，能够自适应地选取最优Key-Value窗口并重新排列，同时实现全局信息聚合且保持TE。主干架构TEAFormer则将TEA模块集成至残差组结构中，构成一个具备高效性、收敛快、泛化强的新型图像复原Transformer架构。

免责声明