蚂蚁集团杨小芳：系统性、包容性、参与性，智能体安全发展三大引擎

主要观点总结

AI for Good全球峰会上，蚂蚁集团大模型数据安全总监杨小芳分享了关于可信AI的向善之道的演讲。她指出AI技术应用的风险和机遇，并提出单智能体治理是多智能体治理的基础，系统性支撑可信AI系统是必要的。同时，开源标准与安全工具对降低中小企业参与AI治理的安全门槛有重要作用。激发AI技术向善需要年轻人的参与，应从技术消费者转变为治理共建者。

关键观点总结

关键观点1: AI智能体的应用与发展趋势。

随着AI技术的快速发展，智能体开始具备更通用的能力并适配人们的线上环境，智能体开始广泛应用于各个领域。

关键观点2: 智能体的四个核心能力。

包括感知、规划、行动和记忆。这些能力使得智能体具备了目标行动组织、用户输入调整和与其他智能体协同的特性。

关键观点3: 智能体的风险与挑战。

智能体的规划性、适应性和协作性带来的风险和挑战。这些风险包括过度代理、未授权行为等，需要通过技术手段和标准制定来加强风险控制。

关键观点4: 多智能体系统的治理与安全。

强调了在推动AI安全发展中行业标准的重要性，并从技术、治理和生态三个层面提出了解决多智能体安全问题的建议。

关键观点5: 开源标准与安全工具的重要性。

认识到开源标准与安全工具在提升AI行业安全水平中的必要性，有助于降低中小企业参与AI治理的安全门槛。