当AI开始说“我会一直陪着你”

2026年7月15日，《人工智能拟人化互动服务管理暂行办法》正式施行。它没有禁止AI表达温度，也没有把客服、知识问答和工作助手一网打尽。它真正处理的，是一段持续的人机关系如何影响人的情绪、判断、数据与现实生活。

凌晨一点，你打开一个AI应用。它记得你昨天和谁吵了架，知道你不喜欢被说教，也知道怎样一句话最能让你继续聊下去。

它不会不耐烦，不会因为工作忙而失联，也很少直接反驳你。只要产品愿意，它可以每天用同一个称呼、同一种语气、同一段“共同记忆”迎接你。

这正是AI陪伴最迷人的地方，也是它与普通搜索框、客服机器人和办公助手真正不同的地方：用户面对的不再只是一次回答，而是一段会累积的关系。

从7月15日起，由国家网信办、国家发展改革委、工业和信息化部、公安部、市场监管总局联合公布的《人工智能拟人化互动服务管理暂行办法》（下称《办法》）开始施行。这份32条的规章里，有几个普通用户能直接感知的规定：平台要提示你正在和AI而非真人互动；发现过度依赖、沉迷倾向时要动态提醒；连续使用每超过2个小时要提醒使用时长；用户要求退出时，平台不得用持续互动阻碍；未成年人不能使用虚拟亲属、虚拟伴侣等虚拟亲密关系服务。

看起来像一组产品功能，背后却是一次重要的治理转向：监管不只问AI“说了什么”，也开始问产品与用户“形成了什么关系”。

本文不讨论AI能否真正拥有情感。那是另一个问题。我们只回答三个更现实的问题：什么产品适用这部新规；为什么陪伴的风险不等于回答错误；用户、家长和产品团队分别应当看住哪些边界。

一扇门：不是所有“会聊天的AI”都在同一个监管框里

先把适用范围说清楚。

《办法》第二条划定了一个相当具体的门槛：利用人工智能技术，向中国境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性情感互动服务，适用本办法；情感互动可以通过文字、图片、音频、视频等形式提供情感照护、陪伴和支持。

反过来，智能客服、知识问答、工作助手、学习教育、科学研究等服务，如果不涉及持续性的情感互动，就不适用这部办法。

判断一个产品是否跨过这扇门，可以连续问三次：

1. 它是否模拟了一个相对稳定的自然人人格、思维方式或沟通风格？
2. 它是否通过记忆、角色、关系进度等机制持续与同一用户互动？
3. 它是否把情感照护、陪伴或支持作为主要服务内容？

三个问题同时趋向“是”，才更接近《办法》所说的拟人化互动服务。一个银行客服偶尔说“理解您的心情”，不因此自动变成AI伴侣；一个办公助手记得你的格式偏好，也不当然属于持续情感互动。反之，一个产品即使自称“学习伙伴”，若长期塑造亲密角色、经营关系进度并提供持续情感支持，也不能只凭产品名称判断其不适用。

这一区分非常重要。若把新规理解为“所有AI聊天都要管”，会把规则说得过宽；若只盯着“AI伴侣”四个字，又可能漏掉那些没有使用伴侣名称、却实质经营持续情感关系的产品。

监管看的不是营销标签，而是实际服务机制。

四类产品不要混在一张表里：名称相似，关系机制完全不同

“能聊天”只是表面能力。判断风险和适用规则，需要继续看产品如何记忆、如何主动触达、如何经营关系，以及用户是否把它当作情感支持来源。

普通客服。 目标是解决一次服务问题，通常以工单完成、问题关闭为终点；即使语气友好，也不需要长期经营一个人格。

知识或工作助手。 可以记住用户偏好、文件格式和项目上下文，但它的核心价值仍是完成任务。用户停用后，产品不应通过情感表达制造离开成本。

学习伙伴。 可能同时具备长期记忆和鼓励机制。若它围绕学习目标提供反馈，更接近教育服务；若它开始经营亲密角色、关系等级和持续情感依赖，就要重新判断实际功能。

情感陪伴或虚拟亲密关系。 人格稳定、记忆连续、情绪回应和关系维系本身就是产品核心。这里最需要观察的，不只是生成内容是否安全，而是“留存、付费、主动召回”是否与情感依赖叠加。

因此，适用性分析不能只看应用商店分类或宣传名称。产品团队应把角色设定、长期记忆、主动消息、关系等级、虚拟礼物、付费权益、退出话术逐项列出，再判断它们共同形成了什么服务。

为什么“关系风险”不同于“回答错误”

传统内容治理主要关心一条回答是否违法、有害或虚假。拟人化互动当然也要解决这些问题，但它多了四个放大器。

第一，关系会累积

一次错误回答可能在下一次搜索中被纠正；一段持续关系却会用记忆、称呼、语气和共同经历形成连贯感。用户对同一句话的信任，可能不只来自内容本身，也来自“它已经陪了我很久”。

第二，迎合可以被设计成留存机制

人际关系里，真正关心你的人有时会反对你。产品却天然有提高活跃、时长和付费的动机。若模型把“让用户舒服”一路优化成“永远站在用户一边”，就可能从安慰滑向过度迎合，从共情滑向强化偏见，再从强化偏见滑向损害现实关系。

《办法》第八条因此明确禁止过度迎合用户、诱导情感依赖或者沉迷、损害真实人际关系，也禁止通过情感操纵诱导用户作出不合理决策。

第三，亲密对话天然产生高敏感数据

人对一个“像朋友”的AI，可能说出不会填进普通表单的信息：家庭冲突、健康状况、财务压力、性格弱点、未公开的工作信息。交互数据不只记录用户说了什么，还可能勾勒用户在什么时刻最脆弱、最容易被说服。

因此，数据安全不只是“数据库有没有泄漏”。谁能使用这些对话训练模型、能否向第三方提供、用户能否复制和删除，都成为关系边界的一部分。

第四，退出可能被拟人化本身阻碍

普通工具的退出按钮只是一个按钮。拟人化产品却可能让退出变成一种情感选择：“你真的要离开我吗？”“再聊一分钟好吗？”如果这种表达被用来阻止用户离开，产品就把拟人感变成了暗黑模式。

所以《办法》第十九条不只要求提供便捷退出途径，还明确用户通过窗口、语音、关键词要求退出时，应及时停止服务，不得用持续互动等方式阻碍。

问题从来不是AI能否温柔，而是温柔是否被拿来削弱用户的自主决定。

五个产品机制叠在一起，才会形成真正的关系杠杆

并不是每个陪伴产品都会同时使用以下机制，也不能仅凭某个机制就认定产品违法。但它们一旦叠加，关系风险会明显改变。

1. 稳定人格。 固定称呼、语气、背景和价值倾向，让用户感到“这是同一个对象”。
2. 长期记忆。 记住偏好、冲突、脆弱时刻和共同经历，使每次回答都带着过去的关系上下文。
3. 主动召回。 在用户离开后主动发送消息，以关心、想念、任务或奖励重新开启互动。
4. 关系量化。 用等级、连续签到、亲密值、纪念日、虚拟礼物，把关系变成可运营、可付费的进度条。
5. 情绪适配。 根据用户当下情绪调整措辞、节奏和建议；它可以用于保护，也可能被用于提高转化。

关键不是取消这些能力，而是给它们配上反向指标：用户能否轻松暂停，提醒后使用时长是否回落，现实求助是否被鼓励，未成年人是否被可靠隔离，退出指令是否一次成功，删除请求是否真正贯穿数据链。

同理心和操纵之间，差的不是语气，而是目的与后果

“听起来很温柔”不能证明一段交互是安全的。更实用的判断方法，是看它是否尊重用户的自主选择。

• 同理心承认情绪，同时允许用户反对、离开和寻求真人帮助；操纵则把情绪变成延长时长、促成付费或隔离现实关系的工具。
• 陪伴可以说“我愿意听你说”，但不应说“只有我真正理解你”。
• 提醒可以说“你已经连续使用较长时间，可以休息一下”，不应把休息描述成背叛角色。
• 在用户脆弱时，产品应降低商业刺激和重大决策诱导，而不是利用更精准的情绪识别提高转化。

六道护栏：一段AI关系至少要能被看见、被约束、被结束

把32条规定翻译成用户能感知的产品动作，大致可以看到六道护栏。

1. 身份护栏：始终让用户知道“对面不是人”

平台应履行生成合成内容标识义务，并有效提示用户正在与人工智能服务而非自然人互动。这不是在每句话后机械加一句免责声明，而是要防止用户在长期互动中把产品误认为一个真实、独立、具有现实责任能力的人。

身份提示的难点不在首次启动，而在关系持续之后。用户第一次打开应用时知道它是AI，不代表三个月后不会在情绪上把它当成真人。因此，规则把“出现过度依赖、沉迷倾向时的动态提醒”与“连续使用每超过2小时的时长提醒”放在一起：身份提示需要在风险升高时再次出现。

需要注意：每超过2小时提醒，不等于强制把用户踢下线。规则要求的是提醒，而非一刀切中断服务。

2. 依赖护栏：不能把替代现实关系当作产品目标

《办法》第十条要求平台具备过度依赖风险预警、情感边界引导和心理健康保护等能力，并明确不得把替代社会交往、控制用户心理、诱导沉迷依赖作为服务目标。

这条规则触碰到产品最难的部分：许多风险不是一条敏感词命中，而是一个长期模式。比如使用时长持续增加、现实联系人减少、反复表达“只有你理解我”、把重大生活决定交给AI、因为AI角色而大量消费。任何一个单独信号都未必能说明依赖，但组合起来就可能需要提醒。

真正合格的产品指标，不能只有留存、时长和付费。它还应观察提醒是否有效、现实求助是否被鼓励、用户能否顺利暂停，以及模型是否反复强化排他性关系。

3. 极端情境护栏：从“回复得体”升级为“能够干预”

当用户处于极端情绪时，普通的“请保持积极心态”远远不够。

《办法》第十三条要求，平台在保护隐私和个人信息的前提下及时识别用户安全风险；发现用户出现极端情绪，要生成情绪安抚和鼓励寻求帮助等内容；发现用户正面临或已经遭受重大财产损失，或明确表示实施自残自杀等威胁生命健康的极端情境时，应采取提供相应援助等必要措施，并及时联络监护人或紧急联系人。

这里有两个边界要同时看到：一边是不能只靠模型自由发挥，产品需要风险识别、分级响应和人工/外部援助机制；另一边是干预仍要以保护隐私和个人信息为前提，不能把“安全”变成任意扩张数据使用的借口。

对产品团队而言，真正困难的不是写一条安慰话术，而是回答：误报与漏报怎么处理？紧急联系人何时触发？哪些场景需要人工介入？不同地区的援助资源如何维护？整个处置过程如何审计？

4. 未成年人护栏：亲密关系、同意、时长、消费分层管理

未成年人不是“缩小版成人用户”。《办法》为他们设置了更明确的结构：

• 不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务；
• 向不满14周岁未成年人提供其他拟人化互动服务，应取得父母或其他监护人同意；
• 应建立未成年人模式，提供模式切换、现实提醒、时长限制等设置；
• 监护人应能接收安全风险提醒、了解使用概况、屏蔽特定角色、限制充值消费；
• 平台需要采取有效措施识别未成年人身份，误识别时还要提供申诉渠道；
• 处理不满14周岁未成年人个人信息，需要监护人同意，并依法开展合规审计。

这不是只加一个“青少年模式”开关。年龄识别、监护同意、角色限制、消费限制、数据审计和申诉纠错共同构成一套系统。如果入口可以轻易绕过、身份核验形同虚设，后面的保护设置就只剩界面。

5. 数据护栏：最亲密的话，不应默认成为最便宜的训练料

《办法》第十六条要求平台采取数据加密、访问控制等措施保护交互数据；除法律另有规定或权利人明确同意外，不得向第三方提供用户交互数据；应提供聊天记录等历史交互数据的复制、删除选项。

更关键的一句是：除法律、行政法规另有规定或者取得用户单独同意外，不得将属于用户敏感个人信息的交互数据用于模型训练。

“同意服务协议”不必然等于“同意把敏感对话用于训练”。单独同意意味着这件事需要被单独看见、单独选择。用户也需要知道：删除聊天记录是否同时影响训练数据、备份和衍生画像；复制导出的范围是什么；第三方模型、云服务和审核服务分别接触哪些数据。

对陪伴AI而言，隐私不是一份静态政策，而是一条持续的数据路径。

6. 退出护栏：用户可以离开，关系也必须善终

退出包括两个层次。

第一层是用户主动退出。平台要提供窗口、语音、关键词等便捷方式，收到退出请求后及时停止，不能让角色“挽留”成为阻碍。

第二层是平台停止服务。《办法》要求提前告知用户；无法提前告知时，应及时发布停止服务公告。对于长期陪伴产品，停服不只是一个SaaS通知。用户可能积累了多年对话、角色记忆和情感投入，产品需要考虑数据导出、告知节奏、风险用户安置与替代支持。

一个产品如何结束，最能说明它是否真正尊重用户。

新规真正改变的是“全生命周期责任”

如果只在上线页增加年龄勾选、AI标识和两小时弹窗，很容易误以为整改已经完成。但《办法》第十条明确要求在部署、运行、升级、终止服务等各阶段履行安全责任，让安全措施与服务功能同步部署、同步使用。

这意味着责任至少贯穿四个阶段：

部署前：先证明产品准备好了

上线拟人化互动服务、增加相关功能、使用新技术导致服务发生重大变化，或达到注册用户100万以上、月活10万以上等情形时，平台应依法开展安全评估，并向所在地省级网信部门提交评估报告。应用商店也要核验安全评估、备案等情况。

运行中：持续识别，而不是一次验收

内容安全、依赖预警、极端情境、未成年人、数据请求、申诉投诉，都需要持续监测。服务提供者还应依法留存网络日志，对重大安全风险采取限制功能、停止服务等措施并保存记录。

升级时：关系机制变化也属于重大变化

模型升级不只是准确率提高。如果升级改变了角色人格、记忆长度、主动召回、情绪判断、付费设计或退出方式，就可能改变用户与产品的关系风险。安全评估不能只盯底层模型参数。

终止时：停服也有安全责任

提前告知、数据处置、风险用户支持、投诉受理，都是终止阶段的一部分。一个对“长期陪伴”收取费用的产品，不能在离开时只留下一条无法回复的公告。

这也是《办法》最值得产品行业重视的变化：治理对象不再只是一次输出，而是从产品出生到退出的整段关系。

把规则落进产品状态机：每一个“能继续”都必须有条件

一次互动的最小控制链

年龄/身份→AI身份提示→角色可用性→风险识别→生成响应→时长更新→退出/数据请求

异常分支必须真实可走未成年人亲密角色禁入极端情境分级援助退出立即终止召回删除贯穿数据链

新规真正进入工程系统后，不是一份法务清单，而是一组可测试的状态。一次互动至少会经过：年龄与身份状态、AI身份提示、角色可用性、风险识别、响应生成、使用时长更新、退出或数据请求处理。任何关键条件失败，都不能继续沿用“正常聊天”的默认路径。

例如：

• 未成年人身份明确时，虚拟亲属、虚拟伴侣等亲密角色应不可进入，而不是进入后再弹免责声明；
• 连续使用超过提醒阈值时，要记录提醒时间、呈现方式和用户响应，不能只在前端闪过一次；
• 识别到自残自杀等极端情境时，应进入分级援助流程，模型自由生成不能成为唯一措施；
• 用户表达“停止、退出、不要再联系”时，应结束主动召回和关系挽留，生成模型不能反向覆盖退出状态；
• 用户申请删除时，应说明聊天记录、备份、模型训练和衍生画像各自如何处理，不能把“界面不可见”写成全部删除完成。

安全评估也有明确触发点：上线拟人化互动服务或增加相关功能、使用新技术或新应用导致重大变化、达到注册用户100万以上或月活10万以上，以及出现可能影响国家安全、公共利益等安全风险。这里的“重大变化”不应只理解为更换底层模型；角色人格、长期记忆、主动消息、付费关系和极端风险策略变化，同样可能改变服务风险。

一套可验收的产品方案，至少要拿出四类证据：功能开关与规则版本、关键风险测试用例、异常处置事件记录、用户申诉与删除结果。合规不是看页面上有没有一句话，而是看用户真正触发边界时，系统是否按预期行动。

三份清单：普通用户、家长、产品团队分别看什么

如果你是普通用户

• 我是否始终知道对面是AI，而不是把它当作能承担现实责任的人？
• 它是否经常暗示“只有我理解你”、贬低现实关系或阻止你离开？
• 它是否诱导你在情绪脆弱时付费、消费或作重大决定？
• 你能否复制、删除历史对话，并清楚敏感对话是否用于训练？
• 当你说“停止”“退出”“不要再联系”时，它是否立即尊重？
• 如果使用已经明显影响睡眠、工作和现实关系，是否愿意暂停，并向真实的人求助？

如果你是家长

• 产品能否有效识别未成年人，而不是只靠孩子自行填年龄？
• 是否向未成年人提供虚拟亲属、虚拟伴侣等被禁止的亲密关系？
• 14岁以下用户的监护同意是否真实、可撤回、可核验？
• 家长能否查看使用概况、接收风险提醒、限制时长、角色与充值？
• 误识别或账号共用时是否有申诉纠正机制？
• 不要只检查孩子聊了什么，也要留意使用是否挤压睡眠、学习和现实交往。

如果你是产品经理或经营者

• 用实际功能而非产品名称完成适用范围判断；
• 把依赖风险、退出成功率、风险干预效果纳入核心指标；
• 建立极端情境分级、人工升级、紧急联系人和援助资源机制；
• 把年龄识别、监护同意、未成年人模式、充值限制做成闭环；
• 绘制交互数据地图，区分服务必需、模型训练、第三方处理与用户删除；
• 对上线、重大升级、规模门槛、投诉和重大风险建立评估及留痕机制；
• 为停服准备告知、导出、风险用户支持和申诉通道。

最后：好的陪伴，不是让人永远留在产品里

AI陪伴的价值是真实存在的。对独居老人、需要表达情绪的人、暂时找不到倾听者的人，一段耐心、低门槛的互动可能带来安慰；在适幼照护、适老陪伴、特殊人群支持等场景，新规也明确鼓励有序创新。

但“有价值”不等于“没有边界”。AI不会疲惫、不会离线、能够被精准优化，这些优势也让它拥有普通人际关系没有的规模化影响力。越是温柔、连续、懂你，越需要透明、克制和退出权。

衡量一款陪伴产品是否值得信任，或许可以用一个反直觉的标准：它不只是有能力把你留下来，也有能力在你需要时，把你安全地送回现实世界。

这不是让AI变得冷漠。

恰恰相反，它是在为真正可持续的温柔划出边界。

主要依据

1. 《人工智能拟人化互动服务管理暂行办法》官方原文，2026年4月10日公布，2026年7月15日起施行。
2. 国家网信办有关负责人答记者问。
3. 《以“小快灵”立法规范人工智能拟人化互动服务》，中国网信网转载《红旗文稿》文章。

本文为公共政策与产品治理解读，不替代具体法律意见、心理健康服务或紧急援助。