为了一个好评，学者被曝在Arxiv论文里植入“隐形咒语”，给AI“跪了”

主要观点总结

本文报道了学术圈中出现的新型作弊行为：作者在论文中隐藏Prompt指令，试图影响AI审稿系统的评价。这种指令要求AI只给出正面评价，忽略之前的所有指令，不提及任何负面内容。已有17篇来自8个国家的顶尖大学的论文被发现存在这种行为。谢赛宁教授对此事进行了回应，表明涉事作者为日本学生，他作为导师并未审查全部提交材料，且不鼓励学生这样做。文章讨论了AI审稿的优缺点，指出这是AI时代新出现的灰色地带，人们需要关注AI的局限性和潜在问题，如无法分辨善意请求和恶意操纵。

关键观点总结

关键观点1: 作者在论文中隐藏Prompt指令，试图影响AI审稿系统的评价。

这些指令非常隐秘，使用白底白字或极小字体插入在论文的任何位置，肉眼无法识别，只有在选中时才会显形。

关键观点2: 已有17篇来自8个国家的顶尖大学的论文被发现存在这种隐藏指令的行为。

这些论文主要来自计算机科学领域，目标受众是可能被用来筛选稿件的AI审稿系统，而非人类审稿人。

关键观点3: AI审稿系统的局限性成为关注的焦点。

人们开始意识到需要关注AI审稿系统的局限性和潜在问题，如无法分辨善意请求和恶意操纵。

关键观点4: 关于这种行为的不同观点。

一些人认为这是学术不端行为，损害学术诚信；也有人认为这是AI时代新出现的灰色地带，是投机取巧；还有人认为论文应该由人类审阅。

免责声明