AAAI 2026 | 可解释-相关论文12篇

主要观点总结

本文介绍了多个关于人工智能可解释性的研究，包括基于注意力重新分配的开放词汇语义分割目标重聚焦、基于深度学习的多变量时间序列分类的反事实可解释人工智能方法等。文章还涉及了从基因序列预测基因敲除引起的表型异常、大规模视觉语言模型中对象表示因果追踪等内容。此外，文章还介绍了一种通过稀疏自编码器的可解释奖励模型，以提高奖励模型的可解释性和可靠性。

关键观点总结

关键观点1: 介绍多个关于人工智能可解释性的研究

包括基于注意力重新分配的开放词汇语义分割目标重聚焦、基于深度学习的多变量时间序列分类的反事实可解释人工智能方法等。

关键观点2: 涉及基因序列预测基因敲除引起的表型异常的研究

使用GenePheno等框架从基因序列预测敲除诱导的表型异常，提供人类可解释的概念，反映表型形成背后的功能机制。

关键观点3: 介绍大规模视觉语言模型中对象表示因果追踪的研究

通过细粒度跨模态因果追踪（FCCT）框架，系统地量化对视觉对象感知的因果影响，并基于这些见解提出中间表示注入（IRI）技术，以增强感知并减轻幻觉。

关键观点4: 介绍一种通过稀疏自编码器的可解释奖励模型

将预训练的稀疏自动编码器（SAE）集成到奖励模型中，帮助直接进行奖励分配的特征级归因，允许动态调整以适应偏好变化，提高奖励模型的可解释性和可靠性。