继去年12月征求意见稿，引发行业讨论后，国家网信办、发改委、工信部、公安部、市场监管总局五部门于4月10日联合发布《人工智能拟人化互动服务管理暂行办法》（以下简称本办法），本办法将于2026年7月15日起施行，标志着AI情感陪伴行业监管靴子正式落地。
根据正式稿，我们整理了以下10问10答，供提供AI拟人化互动服务的企业参考：
一、如何定义“拟人化互动服务”？哪些AI产品适用本办法？（第2条）
适用范围：利用AI技术+向境内公众提供+“模拟自然人人格特征、思维模式和沟通风格”的持续性情感互动服务（如陪伴、情感支持），则适用本办法。
负面清单： 智能客服、知识问答、工作助手、学习教育、科研工具，且不涉及持续性情感互动，则不适用本办法。
二、AI企业在内容安全上有哪些“红线”不能碰？（第8条）
不得生成、传播危害国家安全、损害国家荣誉和利益、破坏民族团结、开展非法宗教活动，或者散布谣言扰乱经济和社会秩序、宣扬淫秽、色情、赌博、暴力或者教唆犯罪侮辱或者诽谤他人，侵害他人合法权益的内容。
不得鼓励、美化、暗示自杀自残等方式损害用户身体健康，或者通过语言暴力等方式损害用户人格尊严与心理健康。
不得诱导、套取涉密、个人隐私和个人信息。
过度迎合用户、诱导情感依赖或者沉迷，损害用户真实人际关系。
通过情感操纵等方式，诱导用户作出不合理决策，损害用户合法权益的。
向未成年人用户生成可能引发未成年人模仿不安全行为、产生极端情绪、诱导未成年人不良嗜好等可能影响未成年人身心健康的内容。
三、企业需履行哪些安全保障义务？（第9条、10、26条）
建立配套管理制度： 包括算法机制机理审核、科技伦理审查、信息内容管理、网络和数据安全、风险预案与应急处置等制度，并配备与业务规模、服务类型、用户特征匹配的技术和人员。
产品全生命周期的安全责任：明确从部署、运行、升级、终止等全阶段的安全要求，并做到安全措施与功能“同步部署、同步使用”；同时持续开展安全监测和风险评估，及时纠偏和处置安全事件，依法留存网络日志。
服务目标： 不得设定为替代社会交往、控制用户心理、诱导沉迷依赖。
履行算法备案和变更、注销备案手续。
四、针对训练数据的治理，有哪些明确要求？（第11条）
开展预训练、优化训练等活动时，训练数据需合法来源。
清洗标注、防数据投毒和篡改。
增强多样性并通过负向采样、对抗训练提升安全性。
使用合成数据需评估安全性。
日常检查与定期优化更新；并采取必要措施防数据泄露。
五、用户管理方面，企业必须做什么？（第12、13、18-21条）
与用户签订服务协议： 要求用户依法依约注册，并提供年龄、监护人或紧急联系人信息必要信息。
用户出现极端情绪或生命健康风险的处置措施： 发现极端情绪，要及时生成安抚与鼓励求助内容；发现用户面临重大财产损失或明确表达自残自杀风险时，应采取必要援助干预，并及时联系监护人或紧急联系人。
AI生成内容标识： 提示用户其互动对象是AI而非自然人。
对过度依赖、沉迷倾向用户的特别措施： 对于存在沉迷倾向的用户应以弹窗等方式动态提醒；用户连续使用每超过2小时进行时长提醒。
提供便捷退出路径：用户通过窗口操作、语音控制、关键词输入等方式要求退出时，应及时停止服务，不得以持续互动等方式阻碍退出。
停服前的告知义务：停止提供拟人化互动服务，应提前告知用户；无法提前告知的，应及时发布停止服务公告。
设置便捷有效的申诉、投诉、举报入口： 明确处理流程与反馈时限，并及时受理、处理和反馈结果。
六、面向未成年人的AI拟人化互动服务，有哪些合规要求？（第14、17条）
有效识别未成年人身份： 识别后切换未成年人模式或采取其他措施，同时提供申诉渠道。
取得父母或监护人同意。
不得提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务。
建立未成年人模式： 支持模式切换、现实提醒、时长限制、监护人风险提醒、角色屏蔽、限制充值消费。
自行或委托专业机构对处理未成年人个人信息进行合规审计。
七、面向老年人，有什么特别义务？（第15条）
加强健康使用指导。
以显著方式提示风险。
及时响应老年人使用服务相关咨询和求助，保障其合法权益。
八、能否使用用户数据用于模型训练？如何合规使用用户数据？（第16条）
除法律法规另有规定或取得用户“单独同意”外，不得将属于用户敏感个人信息的交互数据用于模型训练。
除法律另有规定或权利人明确同意外，不得向第三方提供用户交互数据。
应采取加密、访问控制等措施保障交互数据安全。
向用户提供交互数据的复制、删除选项。
九、什么情况下开展安全评估？安全评估的重点内容是什么？（第21、22条）
1.出现以下任一情形需开展安全评估并向省级网信部门提交报告：
上线拟人化互动服务或增设相关功能。
采用新技术新应用导致重大变化。
注册用户100万以上或月活10万以上。
存在可能影响国家安全、公共利益等风险。
主管部门规定的其他情形。
此外，省级以上网信部门通知需要评估的，也必须按要求开展。
2.安全评估的重点评估内容：
安全保障措施、训练数据处理、用户极端情境识别与干预、用户规模与使用时长及年龄结构、未成年人/老年人保护措施、投诉举报处置、重大风险整改等。
十、违反本办法将承担哪些后果？（第27、29、30条）
省网信部门每年对评估报告等情况进行书面审查，并开展情况核实，发现未按照本办法规定开展安全评估的，应当责令其限期重新评估；认为有必要的，可以对其开展现场检查。
发现拟人化互动服务存在较大安全风险或者发生安全事件的，有关部门可以按照规定的权限和程序对拟人化互动服务提供者的法定代表人或者主要负责人进行约谈。拟人化互动服务提供者应当按照要求采取措施，进行整改，消除隐患。
违反本办法，将由网信、工信、公安等部门依本办法处理处罚。
法律、行政法规没有规定的，予以警告、通报批评、责令限改，要求暂停账号注册或其他服务。拒不改正或情节严重的，可被责令停止相关服务并处一万元以上十万元以下罚款；涉及危害公民生命健康且有后果的，处十万元以上二十万元以下罚款。
正式颁布的拟人化互动服务新规，不仅确立了多部门协同执法机制，更在各大核心维度划定刚性红线：适用范围上，正式稿以“模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务”为界，将智能客服、知识问答等工具类服务排除在外，而"AI虚拟恋人"等拟人化陪伴产品则被全面纳入监管。未成年人保护方面，监管态度显著趋严，绝对禁止向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务，并要求服务提供者建立未成年人模式，要求企业做到时长限制、角色屏蔽、限制充值。合规义务层面，除了建立全生命周期安全管理体系、履行算法备案、开展未成年个人信息保护审计等义务，符合规定情形的企业还应当进行安全评估。
新规的颁布，意味着有关部门对该类AI产品的监管态度。 对于提供拟人化互动服务的链条上的各个主体，包括模型研发方、内容提供方、平台运营方及分发渠道方等，都需要引起重视，履行相应的合规义务。
---
陈 焕 律师
《法律人必备AI核心技能》作者
《法律人ChatGPT应用指南》作者
专注AI合规/数据合规
欢迎添加微信，获取《中国人工智能法规及政策汇编》
赛博菩萨 Cloudflare，AI 爬虫最严厉的父亲
关于防范AI编程工具Claude Code安全后门隐患的风险提示NVDB
聊聊Anthropic这篇最新研究，我觉得可能是AI意识诞生的前夜。