ICCV 2025 | AFOG：当注意力机制成“内鬼”，巧妙瓦解目标检测Transformer

主要观点总结

本文介绍了佐治亚理工团队提出的AFOG方法，一种针对大型目标检测模型（特别是Transformer架构）的对抗性攻击方法。AFOG能够找到并攻击模型的最脆弱区域，使模型失效。实验表明，AFOG的攻击性能比现有方法高出83%，同时扰动更小、更难察觉。

关键观点总结

关键观点1: AFOG方法的提出与背景

佐治亚理工团队提出了一种名为AFOG的新型对抗性攻击方法，专注于攻击大型目标检测模型，特别是Transformer架构。该方法是为了解决现有攻击方法在面对新型Transformer模型时的不足而设计的。

关键观点2: AFOG方法的原理与特点

AFOG利用可学习的对抗性注意力机制，智能地将攻击扰动集中到图像中最容易让模型犯错的区域。它具有模型架构无关性，能有效攻击Transformer检测器以及传统的CNN检测器。AFOG生成的扰动在视觉上几乎无法察觉，但却能让模型完全失效。

关键观点3: AFOG的实验设计与结果

研究团队在COCO数据集上进行了广泛的实验，证明了AFOG的有效性和优越性。与现有的SOTA攻击方法相比，AFOG在攻击DETR和Swin等Transformer模型时，展现出更强的攻击性能。同时，AFOG在攻击基于CNN的经典检测器时，效果同样优于其他方法。

关键观点4: AFOG的贡献与价值

AFOG的贡献主要体现在提出一种基于可学习注意力机制的对抗性攻击方法，具有架构无关性，能够在多种检测器上实现高效攻击。其开源的代码方便社区进行复现和进一步研究，共同推进AI安全领域的发展。