上交大揭露大模型审稿风险：一句话就能让论文评分飞升

主要观点总结

本文介绍了大语言模型（LLMs）在学术同行评审中的使用情况，以及存在的潜在风险。文章指出，大语言模型正在悄然渗透到学术审稿过程中，可能带来深远影响。研究者们通过多项研究发现了大语言模型在审稿过程中存在的风险，包括操控风险、隐性操控、幻觉问题和偏见问题。因此，研究者们呼吁暂停使用大语言模型替代审稿工作，并制定有效的防范措施，确保科技进步在更健康、透明的框架内进行。文章还介绍了最新研究论文的相关内容。

关键观点总结

关键观点1: 大语言模型在学术同行评审中的使用越来越普遍。

随着大语言模型在多个领域展现出的惊人潜力，越来越多的学者尝试利用它们来辅助甚至替代审稿，以提高传统流程的效率。

关键观点2: 大语言模型在审稿过程中存在潜在风险。

研究发现，大语言模型在审稿过程中容易受到作者操纵，可能产生虚假的审稿意见，存在幻觉问题和偏见问题，对学术评审的公平性和可靠性构成严重威胁。

关键观点3: 研究者们呼吁暂停使用大语言模型替代审稿工作。

为了确保学术审稿过程的公正性和严谨性，研究者们呼吁暂停大语言模型在同行评审中的替代性使用，并引入检测工具与问责机制来识别并应对审稿过程中的潜在风险。

关键观点4: 大语言模型可以作为辅助工具使用。

虽然大语言模型目前无法完全取代人类审稿，但它们仍有潜力作为审稿过程的补充工具，提供额外反馈以提升审稿质量。

关键观点5: 需要增强大语言模型审稿系统的稳健性与安全性。

未来应致力于开发一种能够有效整合大语言模型的同行评审流程，既能最大化其潜力，又能有效防范已识别的风险，增强其稳健性和安全性。