ICML 2025 | 智能体-相关论文12篇

主要观点总结

本文综述了关于虚拟智能体应用程序的限制和挑战的几篇文章。这些文章涵盖了基准测试、多智能体协作、状态建模、好奇心驱动的探索以及间接提示注入攻击防御等方面。文中介绍了各篇文章的主要内容，并给出了会议、出版时间等背景信息。

关键观点总结

关键观点1: 基准测试的挑战和发展

介绍了几个项目如何引入新的基准测试来评估虚拟智能体的性能，如OmniBench和UP-VLA等，这些测试旨在解决现有基准测试的局限性，如任务复杂性控制、场景下的手动注释有限以及缺乏多维评估等问题。

关键观点2: 多智能体协作的强化学习

探讨了如何利用多智能体强化学习（MARL）方法促进智能体之间的协作。介绍了R3DM和MELON等项目，它们通过动力学模型、状态建模和对抗性探索等技术增强多智能体协作任务执行策略。

关键观点3: 状态建模的重要性

强调了状态建模在智能体决策中的重要性，特别是在部分可观测环境中。提出了一种新的协作MARL状态建模框架，通过合并信念表示来增强代理的探索和协作任务执行策略。

关键观点4: 好奇心驱动的探索

讨论了如何训练一般好奇的智能体，通过Paprika等方法鼓励智能体开发新的、高价值状态，同时提高其他人的辨别能力。

关键观点5: 间接提示注入攻击的防御

介绍了对人工智能智能体中间接提示注入攻击（IPI）的防御策略。提出了MELON防御方法，通过屏蔽用户提示重新执行代理的轨迹来检测攻击，并在IPI基准AgentDojo上进行了广泛评估。