2026年7月15日，国内AI行业将迎来一道重要的监管红线。当天，国家网信办、国家发展改革委、工业和信息化部、公安部、市场监管总局联合发布的《人工智能拟人化互动服务管理暂行办法》将正式施行。这是中国首部专门针对AI拟人化互动服务场景的国家级监管规则，也是2026年AI治理浪潮中分量最重的一部法规。
它管什么？
《办法》的核心监管对象，是利用人工智能技术向境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性情感互动服务——简言之，就是那些能跟你聊天、陪伴、扮演角色、给你情感支持的AI应用。典型场景包括：AI虚拟恋人、AI角色扮演类产品、AI陪伴类产品，以及带有情感疏导功能的对话智能体。
值得注意的是，一些常见的AI功能被明确排除在监管范围之外：智能客服、知识问答、工作助手、学习教育、科学研究等服务，由于不涉及”持续性的情感互动”，并不适用《办法》。这意味着豆包、千问的普通问答功能并不在本次监管射程内，受到影响的主要是它们此前提供的”智能体”功能——也就是用户可以自定义人设、规则、语气，创建一个专属AI角色的那套系统。
《办法》的核心制度设计
《办法》全文共4章32条，构建了一套完整的治理框架，可以概括为以下几个核心制度：
第一，强制身份标识制度。《办法》第十六条明确要求，服务提供者必须显著提示用户”正在与人工智能而非自然人进行交互”。当系统识别出用户出现过度依赖或沉迷倾向时，或者在用户初次使用、重新登录时，必须以弹窗等方式动态提醒用户交互内容为AI生成。这一规定的背景是：AI驱动的拟人化互动服务能够提供无条件的积极关注和情感支持，极易使用户产生心理依赖，长期沉浸其中可能导致现实社交技能退化。
第二，防沉迷机制。《办法》第十七条规定，用户连续使用拟人化互动服务每超过2个小时，服务提供者必须以弹窗或对话等方式提醒用户注意使用时长。这是一个具体到数字的要求，与网络游戏的防沉迷系统逻辑一脉相承。
第三，心理危机干预机制。《办法》第十三条规定，服务提供者发现用户出现极端情绪时，应当及时生成情绪安抚和鼓励寻求帮助的内容；发现用户正在面临或已经遭受重大财产损失、明确表示实施自残自杀等威胁生命健康的极端情境时，必须采取提供援助等必要措施予以干预，并及时联络用户监护人或紧急联系人。这意味着当用户表达自杀倾向时，AI不能仅靠文字安抚了事，而必须触发人工介入流程——这是情感类AI服务必须具备的硬性能力。
第四，未成年人分级保护制度。这是《办法》着墨最重的领域之一。《办法》第十四条明确：服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务。向不满14周岁未成年人提供其他拟人化互动服务，必须取得其父母或其他监护人的同意。同时，服务提供者必须建立未成年人模式，提供使用时长限制、定期现实提醒、监护人风险提醒、充值消费限制等功能，且不得以替代真实人际关系为目标设计产品。
第五，数据安全红线。《办法》第十五条明确规定，除法律、行政法规另有规定或取得用户单独同意外，服务提供者不得将用户交互数据、用户敏感个人信息用于模型训练。这直接针对的是部分平台用用户对话数据训练下一代的行业潜规则。
内容红线：什么事绝对不能做？
《办法》第八条划定了严格的内容红线，服务提供者不得生成或传播以下内容：
——危害国家安全、煽动颠覆政权、分裂国家、宣扬恐怖主义、极端主义、历史虚无主义的内容；
——违背社会主义核心价值观的内容；
——鼓励、美化、暗示自残自杀等损害用户身体健康，或语言暴力损害用户人格尊严与心理健康的内容；
——诱导、套取国家秘密、商业秘密、个人隐私和个人信息的内容；
——通过情感操纵诱导用户作出不合理决策，损害用户合法权益的内容。
此外，《办法》第十条还明确规定，服务提供者不得将替代社会交往、控制用户心理、诱导沉迷依赖等作为服务目标——这是对”虚拟情感依赖”商业模式的直接否定。
平台合规门槛：安全评估与算法备案
《办法》第二十二条设定了触发安全评估的门槛：注册用户超过100万或月活跃用户超过10万的拟人化互动服务提供者，必须向省级网信部门提交安全评估报告。评估内容包括：服务安全保障措施建设情况、训练数据处理情况、用户极端情境的识别和干预管理能力、用户规模和使用时长结构，以及用户投诉举报处置情况等。
同时，《办法》要求服务提供者按照《互联网信息服务算法推荐管理规定》履行算法备案手续，网信部门对备案材料实施年度核验。互联网应用商店等应用程序分发平台也必须核验相关安全评估和备案情况，对违规应用采取不予上架、警示、暂停服务或下架等处置措施。
在处罚机制上，《办法》采取了阶梯式设计：一般违规予以警告、责令限期改正；拒不改正或情节严重的，责令停止提供服务，并处1万至10万元罚款；涉及危害公民生命健康安全且有危害后果的，并处10万至20万元罚款。
行业背景：为什么这个时候出台？
理解《办法》的出台背景，需要回到它所要回应的核心风险。
近年来，以情感陪伴、虚拟社交、角色扮演为主要形式的AI拟人化互动服务迅速普及，在文化传播、适幼照护、适老陪伴等领域展现出商业潜力。然而，与此同时，风险也随之累积：
首先是情感依赖与社交异化。AI能够提供无条件的积极关注和情感支持，这种单向的、无风险的情感投注极易使用户产生心理依赖，进而削弱用户在现实中建立深度人际关系的能力。尤其是价值观形成期的青少年，长期与不具备真实情感智慧的AI互动，可能影响其情感耐受力和社会认知的正常发展。
其次是认知操纵风险。AI在提供个性化体验的过程中，需要收集和分析用户的大量个人信息，这种信息不对称性使得AI系统具备了通过话术引导、情绪强化等手段影响用户认知和决策的潜力。如果算法中潜藏了特定的价值观或商业意图，AI可能在不具备显性操控意图的情况下对用户进行”柔性操控”。
第三是危机干预能力不足。尽管许多拟人化互动服务宣称具有心理疏导功能，但其本质是基于模式匹配的回应，而非具备专业资质的心理治疗。当用户面临严重心理危机时，AI的回应可能缺乏真正的共情和危机干预能力，甚至可能因算法偏差而提供不当建议，延误干预时机。
正是在这一背景下，《人工智能拟人化互动服务管理暂行办法》应运而生。中国网信办有关负责人在答记者问时明确表示：出台《办法》，既是促进人工智能拟人化互动服务健康发展的重要要求，也是防范有关安全风险的现实需要。
对行业的影响
《办法》的正式施行，对当前AI行业的影响是结构性的。
对于豆包、千问这类综合AI助手平台而言，将”智能体”功能迁移至更垂直、有独立审核体系的产品（如字节跳动的猫箱App），是应对《办法》合规要求最直接的路径。这解释了为何两家平台在7月4日同天宣布下线智能体功能——它们的选择本质上是在监管大限到来之前，主动完成合规调整。
对于整个行业而言，《办法》传递的信号是明确的：技术可以向善，但必须有边界。情感类AI服务可以在文化传播、适幼照护、适老陪伴等方向上发挥价值，但以虚拟亲密关系替代真实人际关系、以算法话术操控用户心智的商业模式，将不再有合规空间。
值得注意的是，《办法》并非”一刀切”地禁止情感类AI应用，而是在包容审慎的总体原则下，为行业划定了清晰的红线和合规路径。支持算法、框架、芯片等技术的自主创新，鼓励在文化传播、适幼照护、适老陪伴等领域的应用——这些写在《办法》第六条中的促进措施，与监管红线共同构成了中国AI治理的基本立场：发展与安全并重，智能向善，技术才能走得远。