大模型安全挑战与实践：构建AI时代的安全防线

主要观点总结

本文是关于京东信息安全部AI安全负责人Sunny Duan在QCon全球软件开发大会上关于大模型安全挑战与实践的演讲内容。演讲内容包括大模型安全领域的关键风险、京东利用大模型对安全场景的赋能及实践，以及大模型安全解决方案等。

关键观点总结

关键观点1: 大模型安全的风险矩阵

包括训练数据、算法、框架平台和业务应用四个大类。

关键观点2: 大模型安全风险

包括数据泄露、提示词注入、数据投毒和Agent的安全风险等。

关键观点3: 大模型安全解决方案

构建了可信、可控、安全、向善的大模型，具体实施是基于AI对抗AI的思路构建4道对外防线和两个对内的对齐。

关键观点4: 大模型对安全的驱动及挑战

大模型的出现加剧了攻防不对等的局面，针对这个挑战，京东探索了安全大模型+大模型开发平台支撑大模型在安全场景落地的解决思路。

关键观点5: 大模型赋能安全的最佳实践

包括威胁情报研判、钓鱼邮件检测和多Agent自动化渗透测试等案例。

免责声明