安恒信息CTO刘博在紫金山实验室作报告，拆解大模型安全治理实践路径

主要观点总结

第五届网络空间内生安全学术大会暨第八届“强网”拟态防御国际精英挑战赛在南京举行，其中安恒信息CTO刘博做了关于大模型安全的报告。报告指出，大模型应用生态的安全短板随着其规模化落地而逐渐显现，核心风险包括提示词注入、数据泄露与软件供应链风险。安恒信息提出了“四横四纵”一体化治理框架，并基于此框架打造了全栈式大模型安全解决方案，包括数据安全系列、大模型风险评估系统、大模型安全防火墙以及大模型安全防护系统等。刘博表示，安恒信息致力于以全栈能力守护大模型安全，推动形成行业安全共识与合作机制，为人工智能的稳健发展筑牢基石。

关键观点总结

关键观点1: 大会背景与主题

大会由紫金山实验室等多个机构共同举办，聚焦人工智能安全论坛，安恒信息在此做关于大模型安全的报告。

关键观点2: 大模型的安全挑战

随着大模型的规模化落地，其安全短板逐渐显现，核心议题如数据安全、内容安全等愈发凸显，成为制约AI产业高质量发展的关键。

关键观点3: 安恒信息的解决方案

安恒信息提出了“四横四纵”一体化治理框架，并打造了全栈式大模型安全解决方案，包括数据安全系列、大模型风险评估系统、大模型安全防火墙以及大模型安全防护系统等，以应对大模型的安全挑战。

关键观点4: 安恒信息的愿景与承诺

安恒信息致力于以全栈能力守护大模型安全，推动形成行业安全共识与合作机制，为人工智能的稳健发展筑牢基石，让技术创新在安全的轨道上造福人类社会。