境内外AI合规要闻｜上海市金山区、黄浦区和青浦区人民法院陆续发布三起涉人工智能典型案例等

主要观点总结

本文简要概述了境内外的AI合规新闻及相关案例，包括欧盟、韩国、爱尔兰等地区的AI生成内容透明度行为准则、公共部门AI伦理准则、数据保护等方面的进展，以及印度、匈牙利发布的AI治理指南和ChatGPT的安全漏洞等问题。同时，也介绍了环球孟洁律师团队发布的专业领域洞察订阅内容。

关键观点总结

关键观点1: 欧盟启动关于AI生成内容透明度的行为准则工作

欧盟委员会启动了人工智能生成内容标记和标签行为守则的工作，深度伪造和某些人工智能生成的文本和其他合成材料等内容必须明确标记，以培养对信息生态系统的信任，降低错误信息、欺诈、冒充和消费者欺骗的风险。

关键观点2: 韩国行政安全部发布公共部门AI伦理准则

韩国行政安全部发布了《公共部门AI伦理准则》，包括公开、透明、安全、公平、问责、隐私保护等六项原则，旨在促进行政创新和建立公众对AI使用的信任。

关键观点3: 爱尔兰DPC要求LinkedIn强化AI训练透明度与用户控制机制

爱尔兰数据保护委员会要求LinkedIn提高透明度通知，让用户更清楚了解个人数据在AI训练中的使用情况，并采取措施确保未满18岁的用户数据不被用于训练。

关键观点4: 印度MeitY发布人工智能治理指南

印度电子和信息技术部发布了《印度人工智能治理指南》，这是一个全面框架，旨在确保各个领域安全、包容和负责任地采用人工智能。

关键观点5: 匈牙利政府颁布人工智能法案

匈牙利政府实施了人工智能法，该法案旨在落实欧盟关于人工智能的相关法规。

关键观点6: ChatGPT曝出安全漏洞

ChatGPT存在七个高危漏洞，可能被用来窃取用户私人数据，建立持久性控制等。其中，“提示注入”是最具威胁的攻击手段，攻击者只需将恶意内容隐藏在AI读取的外部资源中，就能诱导模型泄露数据或执行命令。