虚实之间——《人工智能拟人化互动服务管理暂行办法（征求意见稿）》解读

主要观点总结

《人工智能拟人化互动服务管理暂行办法（征求意见稿）》对“人工智能拟人化互动服务”进行规定，包括定义、合规义务、特殊群体保护、用户权益保障、技术安全与应急等。规定要求服务提供者确保数据安全、内容审核与伦理、特殊群体保护、用户权益保障、技术安全与应急等，同时明确了针对未成年人和老年人的保护义务。此外，还规定了服务提供者需承担的法律后果，并建议企业提前布局合规方案。

关键观点总结

关键观点1: 定义与范围

“人工智能拟人化互动服务”是指利用人工智能技术，向中华人民共和国境内公众提供模拟人类人格特征、思维模式和沟通风格，通过文字、图片、音频、视频等方式与人类进行情感互动的产品或服务。

关键观点2: 合规义务

服务提供者需确保数据安全、内容审核与伦理、特殊群体保护、用户权益保障、技术安全与应急等，同时明确了针对未成年人和老年人的保护义务。

关键观点3: 特殊群体保护

规定对未成年人和老年人群体提供特殊保护，包括实时控制权、情感陪伴服务单独同意义务、疑似未成年人自动切换模式义务、紧急联系人与救助义务、亲属模拟禁止义务等。

关键观点4: 用户权益保障

服务提供者需具备用户状态识别与干预义务、服务透明化提示义务、服务退出自由义务等，以应对拟人化互动服务的情感依赖与认知混淆风险。

关键观点5: 技术安全与应急

服务提供者需确保内生安全与全周期技术保障、应急处置与投诉响应义务、安全评估义务等，以应对技术安全与用户权益风险。

关键观点6: 法律后果

服务提供者违反规定可能面临行政处罚，包括警告、通报批评、责令限期改正、责令暂停提供相关服务等。

关键观点7: 合规要点规划及部署

建议企业提前布局合规方案，包括在输入端进行训练数据审核、在输出端进行服务或产品审核，以及对服务或产品与用户的交互进行排查和完善。