一只猫就能让最强 AI 答错题，Deepseek 也翻车，猫怎么成了大模型「天敌」?

主要观点总结

本文主要介绍了猫咪在AI辅助科研中的特殊作用，以及斯坦福大学等研究团队发现的AI模型易受无关语句干扰的现象。这种现象被称为'CatAttack'，研究指出某些推理型大模型容易受到无关语句的影响，导致答题错误率暴涨，运算成本增加，运算速度变慢等问题。文章还讨论了这种攻击方式的通用性和潜在的安全隐患。

关键观点总结

关键观点1: 猫咪在AI辅助科研中的特殊作用

人们发现用猫咪做「人质」可以增加AI辅助科研的准确率，但AI是否真的因为「猫咪道德危机」而变得更靠谱，目前还没有确凿的科学依据。

关键观点2: 斯坦福大学等研究团队发现的AI模型易受无关语句干扰的现象

研究团队通过在一道数学题后插入无关句子，发现能够显著提高大模型出错的几率，这种现象被称为CatAttack。

关键观点3: CatAttack的具体影响和表现

CatAttack导致AI答题错误率暴涨，响应变啰嗦，平均长度翻倍，计算成本大增，运算变慢，出现明显的延迟现象。

关键观点4: CatAttack与其他攻击方式的比较

CatAttack是通用型、无上下文的攻击方式，不同于需要针对特定任务设计的攻击方式，它可以在任何问题上对AI进行干扰。

关键观点5: CatAttack所揭示的输入注入风险

CatAttack所揭示的输入注入风险是AI安全领域的重要问题，可能导致自动驾驶、金融合同分析、医疗诊断等领域的潜在安全隐患。

免责声明