事关金融安全：七国集团网络专家组发布AI与网络安全声明

主要观点总结

七国集团网络安全专家小组发布联合声明，评估人工智能对金融体系的影响。声明指出AI在网络安全方面的应用与风险，包括增强网络韧性、放大网络风险以及AI系统自身的新型安全风险。针对这些风险，声明为金融机构和监管当局提供行动建议。文章还提及了邬江兴院士关于AI内生安全问题的研究，以及相关新书出版、大会和征集活动等资讯。

关键观点总结

关键观点1: 声明中AI对网络安全的影响被详细阐述，包括增强网络韧性和放大现有网络风险的途径。

声明指出AI在网络安全方面的应用如异常检测与响应、欺诈检测与响应等，能够显著增强网络防御能力，但同时也可能被用于放大既有威胁。AI的广泛应用降低了发动高级攻击的技术门槛，使得攻击者能够以更高的效率、更大的规模开展行动。

关键观点2: AI系统自身存在新型安全风险被关注。

声明警告，攻击者可能利用AI系统的数据中毒、数据泄露和提示注入等风险进行攻击。因此，金融机构在应用人工智能时，面临一系列相互交织的风险，包括模型与供应链风险、运营风险等。

关键观点3: 声明为金融机构和监管当局提供具体行动建议。

针对上述挑战，声明建议金融机构系统梳理、规划内部治理框架，确保拥有足够的专业知识来评估、部署和持续监控AI的使用。对于监管机构，声明建议提升能力、引导行业实践、促进多方协作等。