华为的AI系统网络安全治理梳理

主要观点总结

本文介绍了深圳市网络与信息安全行业协会在网络安全与隐私保护方面的努力，包括其2024年基于全栈自研技术开发的盘古系列大模型盘古5.0的构建层次、治理管理、风险管理、度量验证与监督、应急处理、流程融入等方面的内容。同时，文章还介绍了AI的网络安全防护和四大可信根技术保障算力底座安全的相关内容，包括加密引擎、机密计算、可信互联、可信计算等。为保障数据合规和模型安全，构建了多道护栏，包括数据安全、模型安全、模型安全风控、应用安全和运营运维安全等。

关键观点总结

关键观点1: 深圳市网络与信息安全行业协会的工作概述

协会致力于网络安全与隐私保护，通过采用治理加上嵌入式管理的工作方法，以实现AI网络安全风险管控和合规合法的目标，构建人工智能网络安全治理的架构。

关键观点2: 盘古系列大模型的构建层次

协会在2024年计划基于全栈自研技术开发的盘古系列大模型包括基础大模型、行业大模型和场景大模型三个层次。

关键观点3: 网络安全与隐私保护的治理原则和工作职责

协会遵循网络安全与隐私保护8大治理原则，落实4大工作职责，通过深入的AI业务风险评估和分析，预防和减少AI业务中可能出现的网络安全和隐私保护问题。

关键观点4: AI风险的全面识别和评估

基于外部法规、利益相关方需求、技术发展趋势，结合企业各业务组织目标和需求，全面识别业务管理中的AI风险，建立AI风险评估标准。

关键观点5: AI的网络安全防护和可信根技术

为保障算力底座安全，提出了四大可信根技术保障，包括加密引擎、机密计算、可信互联和可信计算，以应对多用户共享算力环境所带来的网络安全威胁。

关键观点6: 多层次的数据和模型安全保护措施

为保障数据合规和模型安全，构建了包括数据安全、模型安全、模型安全风控、应用安全和运营运维安全等多道护栏，采用多种技术和方法提高数据和模型的安全性。