换脸换声、版权侵权......天融信专家对话央视记者，谈生成式AI被滥用该如何治理

主要观点总结

中国互联网络信息中心发布了《生成式人工智能应用发展报告（2025）》，报告显示我国生成式人工智能用户规模巨大，但伴随高风险挑战，如换脸换声、版权侵权、学术滥用等问题。文章从虚假广告案件、AI深度合成的识别、内容标识制度的落实、版权问题以及学术滥用等方面进行了阐述。专家表示，治理核心在于全面落实内容标识制度，AI大模型训练引发版权问题，学生和研究人员滥用AI也引起关注。报告呼吁建立学术诚信体系，并正确引导和规范AI的应用。

关键观点总结

关键观点1: 生成式人工智能用户规模庞大，伴随高风险挑战。

随着生成式人工智能的高速普及，其带来的换脸换声、版权侵权、学术滥用等问题越发凸显，如AI换脸换声生成虚假广告案件频发。

关键观点2: AI换脸换声技术成熟，识别需依赖AI技术。

随着AI换声换脸技术越来越成熟，已经足以达到以假乱真的地步。分辨一段视频或者声音是否是经过深度合成，最好的办法是通过AI去识别。

关键观点3: 治理核心在于全面落实内容标识制度。

专家表示，治理的核心在于全面落实内容标识制度。所有AI生成的文字、图片、视频等内容必须添加显式标识以“亮明身份”，同时鼓励添加数字水印等隐式标识。

关键观点4: AI大模型训练引发版权问题。

使用未经授权的数据训练AI大模型引发版权争端。专家建议AI开发运营者需建立全面的著作权合规机制，包括在训练数据收集阶段进行版权审核，优先获取授权和使用开放许可的资源。

关键观点5: 学术滥用AI引起关注。

学生和研究人员将生成式人工智能用于写论文、抄作业的情况引起关注。专家表示需建立学术诚信体系，并正确引导和规范AI的应用，教师需设计能够评估学生思维过程的考核方式。