AI生成视频以假乱真！天融信专家对话央视呼吁公众注意甄别，警惕引流新套路

主要观点总结

近年来生成式人工智能技术被广泛用于制造谣言。近日，有一起涉及AI生成的虚假视频事件被警方处理。除此之外，还有其他利用AI制造的网络谣言，如珠峰装电梯、长城贴瓷砖等。这些谣言视频制作精良，传播广泛，误导公众认知。《人工智能生成合成内容标识办法》已正式施行，要求所有AI生成的内容都要“亮明身份”，标注AI生成的标识。总台记者演示了如何打上AI生成标识。尽管有法律法规和技术上的努力，但AI生成内容的识别仍然存在困难，需要AI服务提供者、创作者、内容传播平台和用户共同努力防范AI滥用。

关键观点总结

关键观点1: AI技术被用于制造网络谣言

近年来，生成式人工智能技术被广泛用于制造谣言，误导公众认知，破坏网络环境。

关键观点2: 《人工智能生成合成内容标识办法》的实施

该办法要求所有AI生成的内容都要标注AI生成的标识，以亮明身份。

关键观点3: 总台记者演示如何打上AI生成标识

总台记者演示了如何给AI生成的内容打上标识，包括信息发布者如何操作以及平台如何检测AI生成内容。

关键观点4: AI生成内容的识别存在困难

尽管有法律法规和技术上的努力，但AI生成内容的识别仍然存在困难，主要原因是AI生成工具在不断成熟，而AI识别工具始终处于追赶状态。

关键观点5: 防范AI滥用需要共同努力

专家表示，防范AI滥用不仅是识别工具技术更新问题，同时也要加速建立“数字信任生态体系”，需要AI服务提供者、创作者、内容传播平台和用户共同努力。