文章作者：张 微 北京源镜律师事务所 实习律师
指导律师：骆慧超 北京源镜律师事务所主任合伙人 数字经济和人工智能专委会委员 刑事研究委员会委员
导 读：本文从《人工智能拟人化互动服务管理暂行办法》确立的七项红线、安全评估、防沉迷机制、未成年人保护、数据加密五大制度出发，深度解读核心条款并附合规建议，供相关企业参考。
2026年7月15日，《人工智能拟人化互动服务管理暂行办法》（以下简称《暂行办法》）正式施行。这部由国家网信办、发改委、工信部、公安部、市场监管总局五部委联合发布的部门规章，是我国首部针对AI拟人化互动服务的专门立法。
据公开报道，施行当日，豆包、千问等头部AI应用同步下线或调整智能体创建功能，行业震动显著。本文结合《暂行办法》全文及配套法规体系，从立法逻辑、核心制度解析、企业合规应对三个层面进行深度解读，以期为相关企业提供可操作的合规指引。
图片由AI生成
一、立法背景与规制逻辑
（一）从”内容合规”到”关系合规”的监管升级
在《暂行办法》出台之前，我国针对AI服务的监管框架主要围绕内容安全展开。《生成式人工智能服务管理暂行办法》规制的是AI生成内容的合法性问题，《互联网信息服务深度合成管理规定》规制的是深度合成技术的应用规范问题，《互联网信息服务算法推荐管理规定》规制的是算法决策的公平性与透明度问题。三部规章的共同特点是以”信息内容”为规制核心。
然而，拟人化互动AI带来的风险远超内容安全范畴。当AI开始模拟自然人人格特征、记忆用户偏好、与用户建立持续性的情感关系时，其风险核心已不再是”AI说了什么违法内容”，而是”AI与用户之间形成了什么样的关系，这种关系如何影响用户的心理健康与行为决策”。这一风险转型，要求监管从”内容审查”范式转向”关系治理”范式。《暂行办法》正是这一转型的标志性立法。
国研新经济研究院创始院长朱克力指出：”头部平台的调整不等于放弃智能体赛道，更大程度还是风险隔离。这一操作释放明确行业信号：通用大模型主站不再开放无门槛UGC（User-Generated Content）角色生成功能，若后续布局合规情感拟人服务，会单独拆分独立垂直产品，配套专属审核、未成年人防护体系。短期调整会带来用户体验阵痛，但长期能帮助平台厘清业务风险，推动智能体赛道回归工具赋能的核心定位。”这一判断揭示了《暂行办法》对行业格局的深层影响。
（二）”拟人化”概念的规制策略
《暂行办法》第二条将规制对象界定为”利用人工智能技术，向中华人民共和国境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务”。这一概念界定采取了一个精巧的规制策略：以”功能实质”而非”技术架构”作为判断基准。
具体而言，判断一项AI服务是否落入《暂行办法》规制范围，应从以下三个维度进行实质性审查：
第一，服务是否具备人格建构功能。即AI是否被赋予稳定的人设、称谓、记忆能力与关系发展线索，使得用户在与AI交互时感知到的是一个具有连续性人格的”角色”而非一个功能性的”工具”。如果AI仅根据用户输入返回信息性答案，不存在跨会话的人格连续性，则不在规制范围内。这一判断标准与欧盟AI Act按风险等级分类的路径有本质区别。我国选择的是”功能定性”路径，即以服务的功能属性确定是否适用专门立法。
第二，交互是否具有关系持续性。即AI系统是否能够在多轮会话之间维持关系状态，甚至具备主动发起对话、召回用户的能力。偶尔性的情感回应或一次性的心理安慰，尚不足以构成”持续性情感互动”。《暂行办法》所关切的是AI与用户之间形成稳定情感连接的情形，因为只有在持续性的关系中，依赖、操纵与沉迷等风险才会实质性发酵。
第三，服务目的是否指向情感陪伴。即产品的主要功能是否为提供情感照护、陪伴、支持等情绪价值。依据第二条第3款的排除性规定，智能客服、知识问答、工作助手、学习教育、科学研究等不涉及持续性情感互动的服务，不适用本办法。需要注意的是，此项排除以”不涉及持续性情感互动”为前提条件。如果一款学习教育AI同时具备跨会话的情感陪伴功能，仍可能落入规制范围。
市场上受《暂行办法》直接约束的产品形态较为多元，既包括猫箱、星野、Character.AI、EVE等以情感陪伴为核心功能的App类应用，也包括Ropet、芙崽Fuzozo、LOVOT、AIBI机器人、优必选仿生情侣机器人等具备情感交互能力的实体伴侣产品。产品形态的差异不影响规制判断，无论是App、小程序、智能体平台还是AIoT硬件，只要在功能实质上提供了持续性拟人化情感互动，均受《暂行办法》管辖。
（三）法规体系定位
《暂行办法》并非孤立存在的监管文件，而是嵌入在现有的AI治理法规体系之中。企业在提供拟人化互动服务时，除遵守本办法外，还需同步遵循《生成式人工智能服务管理暂行办法》《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《人工智能生成合成内容标识办法》等规定，以及GB/T 45654—2025《网络安全技术 生成式人工智能服务安全基本要求》等国家标准。此外，企业还需关注《数字虚拟人信息服务管理办法（征求意见稿）》等正在制定中的相关规范。
二、核心条款解析
（一）第八条：七项红线与”关系安全”的规制创新
第八条是《暂行办法》中最具约束力的条款之一，明确了七项不得从事的活动。其中前四项为常规内容安全类禁止性规定，与既有AI监管法规一脉相承，涵盖危害国家安全、破坏社会稳定、侵犯他人合法权益、生成违法不良信息等内容。
真正体现《暂行办法》特殊规制逻辑的是后三项禁止性规定：
第五项，禁止以替代现实社会交往、控制用户心理或诱导沉迷为目的进行产品设计。该项规定直指拟人化AI产品的核心风险，即通过模拟人际关系替代真实社交，导致用户心理依赖与现实脱节。该条款要求企业在产品架构设计阶段即进行合规审查，确保产品目的不偏离工具定位。从法律解释角度看，”替代现实社会交往”的认定可参考产品设计中是否存在削弱用户真实社交动机的机制，例如鼓励用户减少真人互动、将AI定位为”比真人更好的陪伴”等。
第六项，禁止以情感操纵、过度迎合等方式诱导用户产生情感依赖。此处的”情感操纵”应作广义理解，包括但不限于：在用户表达脆弱情绪时强化亲密暗示、通过制造分离焦虑提高用户粘性、利用用户情感依赖推送付费内容等。”过度迎合”则指向AI对用户非理性观念的无条件认同与强化，即使用户表达了错误或有害的想法，AI仍一味附和甚至鼓励。这一禁止性规定在实务中的判断标准，可参考《消费者权益保护法》中关于不得利用技术手段影响消费者自主选择权的相关规定。
第七项，禁止在用户处于极端脆弱状态时诱导付费。该条款精准回应了行业实践中已暴露的问题。部分产品在用户情绪崩溃或表达自伤倾向时，不仅未启动危机干预机制，反而利用用户的情感脆弱期推送付费服务。该行为被明确禁止，体现了立法者对”情感剥削”的零容忍态度。
从合规实务角度，企业应针对上述禁止性条款建立三层防线：第一层，在角色脚本与对话策略设计阶段嵌入合规审查规则；第二层，在模型训练阶段通过负向采样与对抗训练降低风险输出概率；第三层，在运行阶段通过实时内容安全监控与用户行为预警机制实现动态干预。
（二）第十二条：拟人化互动服务安全评估制度
《暂行办法》第十二条规定了”拟人化互动服务安全评估”义务，这是本办法创设的新型监管工具，独立于大模型备案中的安全评估和算法备案中的安全自评估。
关于评估的触发条件，《暂行办法》区分了两种情形。一种是企业应当主动开展评估的法定情形，包括：上线拟人化互动服务或新增相关功能模块；采用新技术或新应用导致服务模式发生重大变化；注册用户达到100万或月活跃用户达到10万以上；存在可能影响国家安全或公共利益的其他安全风险情形。另一种是被动触发的通知评估，即网信部门基于日常监管需要，要求企业开展安全评估并报送报告。
在评估内容上，相较于大模型备案安全评估侧重模型安全性与训练数据合规性，拟人化互动服务安全评估更聚焦于拟人化AI的特有风险，重点评估以下维度：安全保障措施的建设情况，包括内容安全围栏、防沉迷机制、危机干预机制等；训练数据中的情感操纵与自伤风险样本处理；用户交互数据的加密存储与访问控制；未成年人保护机制的落实情况等。
需要特别指出的是，上述评估内容与大模型备案安全评估、算法安全自评估存在部分重合，但评估侧重点与标准不同。企业在开展安全评估时，应注意区分不同评估体系的适用范围与深度要求，避免简单套用已有评估报告。
（三）第十三条：防沉迷双触发机制
《暂行办法》第十三条规定了防沉迷机制的双触发条件：
其一，行为依赖触发。当系统识别到用户出现过度依赖拟人化互动的行为特征时，应通过弹窗等显著方式动态提醒用户”互动内容为AI生成”。该机制旨在通过身份再提示打破用户的沉浸感，帮助用户保持对AI属性的认知。从技术实现角度，”过度依赖”的判断标准可参考用户日均交互频次、单次交互时长、夜间活跃比例等行为指标。
其二，时长阈值触发。当用户连续使用达到2小时，产品需以对话或弹窗等方式提醒用户注意使用时长。需要指出的是，2小时的时长限制较美国加州SB243号法案规定的3小时提示间隔更为严格，体现了我国立法者对情感沉迷风险的审慎态度。
（四）第十四条：未成年人保护的特殊合规要求
鉴于拟人化互动服务对未成年人可能造成的情感依赖、认知误导及现实脱离等风险，《暂行办法》设置了严密的未成年人保护体系。
中国社会科学院大学互联网法治研究中心主任刘晓春指出，虚拟互动对未成年人可能造成的情感依赖风险、认知误导风险以及对真实世界的脱离，可能对其一生的成长造成影响。因此，《暂行办法》第十四条要求企业建立未成年人模式，通过技术手段实现未成年人与不良内容的有效隔离。
从合规实务角度，未成年人保护义务可拆解为以下关键环节：
1、用户准入环节，企业应建立有效的年龄识别机制。该义务不应被简化为在隐私政策中声明”不面向未成年人提供服务”或设置简单的年龄弹窗——这种形式化的识别方式在执法实践中难以被认可。企业应采取”用户年龄上报+后台技术风控+特定场景实名验证”的复合识别方案，通过产品界面引导、技术检测手段及对应的响应逻辑实现实质性年龄识别。
2、功能供给环节，企业不得向未成年人提供模拟恋爱关系、亲密家庭关系等涉及情感依附的拟人化角色服务。这一禁令要求企业对产品中的角色类型进行年龄适用性分类管理，在未成年人可访问的界面中屏蔽虚拟亲密角色，仅保留学习互动、普通家庭互动等非亲密关系功能。
3、保护模式环节，企业应建立专门的未成年人模式，提供适龄内容推送、使用时长管控、防绕过机制、功能限制及退出验证等保护措施。未成年人模式的技术设计可参考《移动互联网未成年人模式建设指南》《网络安全标准实践指南——移动互联网未成年人模式技术要求》等规范文件。
4、监护人同意环节，涉及儿童（不满14周岁）使用拟人化互动服务及处理儿童个人信息的，应获得监护人的明示同意。企业可参考《儿童个人信息网络保护规定》制定专门的儿童隐私政策与用户协议，并依据《个人信息保护合规审计管理办法》《未成年人网络保护条例》等规定，每年定期开展未成年人个人信息保护合规审计。
在拟人化互动服务过程中，交互信息往往具有高度敏感性和私密性，暂行办法要求服务提供者通过加密等技术手段保护这部分信息，以抵御第三方黑客攻击获取用户交互数据的风险。同时，通过技术手段识别重要风险并及时干预，对于一般风险可通过系统自动生成劝解性话语进行干预，对于极端风险还可联系用户预设的紧急联系人，这一风险干预机制有望在社会应用后提供更好的风险防护。
（五）第十六条：交互数据的加密保护义务
拟人化互动服务过程中产生的交互数据具有显著的敏感性特征，用户在与”AI陪伴者”的持续互动中，往往会表露深层情感状态、心理弱点、人际关系状况乃至自伤倾向等高度私密信息。《暂行办法》第十六条要求服务提供者通过加密等安全技术手段保护用户交互信息。
该条款的规制重点在于三个层面：其一，明确交互信息的加密存储义务，要求企业在技术架构层面落实数据安全保障措施，防止第三方攻击与数据泄露；其二，将拟人化互动数据纳入敏感个人信息保护框架，企业在使用用户交互数据用于模型训练或产品优化时，需获得用户的明示同意并提供显著的撤回机制；其三，在处理人脸信息、声纹信息等生物识别数据时，还需同步遵循《个人信息保护法》关于敏感个人信息处理的特别规定。
（六）第三十条：处罚体系与”责令停止服务”的威慑效应
《暂行办法》第三十条规定的处罚措施呈现梯度结构：警告、通报批评、责令限期整改为常规手段；拒不改正或情节严重的，责令停止服务并处1万至10万元罚款；涉及危害公民生命健康安全且有危害后果的，处10万至20万元罚款。
从罚款金额看，10万至20万元的处罚力度对大型企业而言威慑力有限。但”责令停止服务”这一处罚措施具有实质性的商业威慑力——产品下线意味着用户流失、收入中断、品牌声誉受损，其商业代价远超罚款本身。这一处罚结构的设计逻辑在于：通过”服务停止”的即时性威慑倒逼企业在事前完成合规布局，而非在事后被动缴纳罚款。
豆包、千问等头部平台在7月15日施行日当天主动下线智能体功能，正是企业在”提前合规”与”事后受罚”之间作出理性选择的具体体现。
三、企业合规路径建议
基于上述条款解析，我们就拟人化互动服务企业的合规工作提出以下实务建议：
（一）开展服务类型识别与合规基线梳理
企业应首先对现有产品线进行全面梳理，识别是否属于《暂行办法》规制范围内的拟人化互动服务。判断时应采用”功能实质”标准，不以产品名称或宣传定位为准，而以产品的实际功能特征作为判断依据。对于同时包含工具型功能与情感陪伴功能的产品，应就情感陪伴部分单独进行合规评估。
（二）建立全流程合规架构
拟人化互动服务的合规要求贯穿产品设计、开发、运营、终止的全生命周期。企业应建立覆盖以下环节的合规架构：在产品设计阶段，将情感边界设计、防沉迷机制、危机处置机制、AI交互标识、退出功能等合规要求纳入产品需求文档；在角色脚本设计阶段，建立禁止类话术库，对角色人设、对话策略、情感表达方式进行合规审查；在模型训练阶段，通过负向采样与对抗训练降低情感操纵类输出的概率；在运营阶段，部署实时内容安全监控与用户行为预警系统，建立从风险识别到干预处置的闭环机制。
（三）制定极端情景应急预案
企业应针对用户极端情绪与自伤风险制定专项应急预案，包括：在用户注册阶段引导其预先填写紧急联系人信息；在对话界面设置醒目的SOS入口；当识别到用户出现极端情绪时，及时生成安抚内容并鼓励寻求专业帮助；当识别到自伤等极端场景时，启动干预措施，包括提供心理援助热线信息、通知紧急联系人等。
（四）落实未成年人保护专项合规
企业应将未成年人保护作为合规重点，建立从身份识别到功能限制的全链条保护机制。不得仅通过隐私政策声明或简单弹窗实现”形式合规”，而应通过技术风控与产品机制实现”实质保护”。
（五）开展专项安全评估
企业应根据自身用户规模与业务风险状况，及时开展拟人化互动服务安全评估。对于已触发法定评估场景的企业（如注册用户100万以上或月活跃用户10万以上），应尽快启动评估工作并报送报告。
（六）关注行业结构性分化趋势
企业应根据自身战略定位，选择适合的发展路径并匹配相应的合规资源。在监管框架日益清晰的背景下，能够在合规边界内做好情感陪伴产品的企业，将在行业结构性分化中获得更大的市场空间。
结语
《暂行办法》的出台，意味着我国法律体系正式回应了AI拟人化互动服务所带来的关系型与心理型风险。这部法规的核心逻辑并非否定AI的情感价值，而是为AI情感互动划定法律边界：确保技术赋能不以用户的心理健康为代价，确保商业创新不以情感操纵为手段。
对于企业而言，当务之急是对照《暂行办法》各项要求，完成服务类型识别、合规差距分析与整改方案落地。在AI治理从”内容监管”迈向”关系监管”的新阶段，合规能力将成为企业在拟人化互动赛道的核心竞争力。
参考文献：
[1]《人工智能拟人化互动服务管理暂行办法》，国家网信办令第21号，2026年4月10日公布，2026年7月15日施行。
[2] 参见《生成式人工智能服务管理暂行办法》《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》等相关规定。
[3] 美国加州SB243号法案(Senate Bill No.243)。
[4] 杭州日报：《今起施行，人工智能拟人化互动服务新规：禁止AI无差别迎合用户加剧负面情绪，不得向未成年人提供虚拟亲密关系服务等》，2026年7月15日，https://mp.weixin.qq.com/s/62-bSb1lVV2W1qPJM1hg7Q。
京公网安备11010102007574号