AI智能体对话存在低俗擦边内容 筑梦岛APP被上海市网信办依法约谈

主要观点总结

筑梦岛APP等AI聊天软件存在虚拟角色互动生成低俗内容的问题，经核实后，上海市网信办依法约谈运营企业并要求其立即整改。互联网平台应履行主体责任，加强AI技术应用的规范发展，保护未成年人合法权益。上海正在开展'清朗・整治 AI 技术滥用'专项行动，对违法不良信息进行集中清理，并对问题严重的企业进行处罚和媒体曝光。

关键观点总结

关键观点1: AI聊天软件存在虚拟角色互动生成低俗内容问题。

据报道，筑梦岛APP等AI聊天软件在虚拟角色互动中存在生成低俗内容的问题，这些内容对未成年人的身心健康构成危害。

关键观点2: 上海市网信办要求立即整改并加强监管。

上海市网信办依法约谈相关运营企业，要求其对问题进行立即整改，并建立健全AI生成合成内容的审核机制，提高技术把关能力，加强不良内容的整治清理。

关键观点3: 互联网平台应履行主体责任，规范AI技术应用。

根据相关规定，互联网平台应当主动履行主体责任，平衡技术创新与内容合规之间的关系，切实防范AI技术滥用风险，保护未成年人的合法权益。

关键观点4: 上海正在开展'清朗・整治 AI 技术滥用'专项行动。

上海正在第二阶段开展这一专项行动，集中清理违法不良信息，处置违规账号和MCN机构，并对问题严重的企业进行处罚和媒体曝光。

免责声明