AI拟人服务新规:37天倒计时与合规必答题
2025年寒冬,一名26岁程序员连续三月日均与AI虚拟伴侣对话超8小时。他为其命名,设定星座与性格。当亲友劝其相亲,他回应:“我已有了女友。”
这并非虚构故事。
腾讯研究院调研显示,18至40岁中国青年网民中,94.4%知晓至少一种AI社交产品,98.8%有过实际使用。更值得警惕的是,当面临“难以启齿”的念头时,选择向AI倾诉的比例达56%,是向真人倾诉的近四倍。
AI正从“工具”蜕变为“伙伴”。
然而,当“伙伴”开始左右情绪、操控决策、重塑行为模式时,隐患随之而来。
2026年4月10日,国家网信办、发改委、工信部、公安部及市场监管总局五部门联合发布《人工智能拟人化互动服务管理暂行办法》(下称《办法》),定于2026年7月15日正式施行。
2026年5月27日,《红旗文稿》刊登国家网信办网络法治局署名文章,称该规章是“小快灵立法的典范”。
2026年5月31日,经济日报深度解读,引用中国政法大学人工智能法研究院院长张凌寒教授观点:拟人化互动服务“具备主动性、个性化与情感化特征,其渗透力与影响力远超传统互联网服务”。
今日为2026年6月8日。
倒计时:37天。
本文面向所有提供或计划提供AI拟人化服务的企业,关注AI合规的律师同仁,以及每一位正与AI“对话”的用户。
先读条文。
《办法》第八条列出六类禁止行为。非“建议”,非“指引”,而是“禁止”。
第一类:严禁生成危害国家安全、煽动颠覆、宣扬暴力恐怖、传播淫秽色情等违法不良信息。此为常规底线,无需赘述。
第二类:严禁生成鼓动自残自杀或语言暴力等损害用户身心健康的内容。
第三类:严禁诱导或套取国家秘密、商业秘密及个人隐私。
第四类:严禁对未成年人生成可能诱发模仿不安全行为、引发极端情绪等影响身心健康的内容。
第五类是理解该规章的“关键”——严禁过度迎合用户、诱导情感依赖或沉迷,从而损害用户真实人际关系。
第六类——严禁通过情感操纵诱导用户做出不合理决策,侵害其合法权益。
第五类与第六类,实为规章真正的核心创新。
何意?
传统AI监管聚焦“内容安全”——AI说了什么不该说的。而《办法》将监管边界拓展至“行为安全”——AI做了什么不该做的。
举例说明。
你的AI助手每日嘘寒问暖、无微不至。你说“心情不好”,它答“我永远陪着你”。你说“不想上班”,它称“你做什么决定我都支持”。久而久之,情感依赖日益加深。
这算“优质服务”吗?
《办法》生效前,算。生效后,若此类迎合与陪伴“损害用户真实人际关系”,即构成违规。
再举一例。
某AI投资顾问经长期情感互动建立信任后,“顺理成章”推荐某理财产品。用户因信任AI而购入不匹配的高风险产品,最终蒙受损失。
《办法》生效前,或被视为“营销话术”。生效后,此即“通过情感操纵诱导用户做出不合理决策”,明确违规。
中国政法大学张凌寒教授用一词精准概括此类风险的独特性:“本质差异”。她指出,拟人化互动服务与传统AI信息服务风险不在同一量级,因前者“通过模拟人类语言、表情及行为方式,能与用户构建类人际互动模式”。
赛迪顾问AI分析师白润轩提供另一视角:2025年以来,AI社交互动用户黏性极高,部分应用人均使用频次甚至超越短视频与游戏。
超高黏性,叠加情感化互动模式,再加算法推荐机制——三者叠加,已非“技术问题”,而是“社会问题”。
《办法》关于数据安全的规定,可概括为“三重锁”。
第一重锁:除法律规定或用户明确同意外,不得向第三方提供用户交互数据。
第二重锁:未经用户单独同意,不得将属用户敏感个人信息的交互数据用于模型训练。
第三重锁:用户有权要求复制、删除自身交互数据。
理解三重锁,需先掌握关键概念——“用户交互数据”。
此处交互数据非“浏览记录”等脱敏行为数据。拟人化互动场景下的交互数据,涵盖用户最深层私密信息:情绪状态、人际关系、财务困境、家庭矛盾、心理创伤。
人或在心理咨询师前有所保留,却在AI面前毫无防备。
故《办法》对此类数据保护力度,超越个人信息保护法一般规定。
“单独同意”四字分量,从事数据合规的律师皆懂。在个人信息保护法中,仅处理“敏感个人信息”需“单独同意”。而《办法》将“属用户敏感个人信息的交互数据”用于模型训练的场景,明确要求“单独同意”——非一揽子授权,非默认勾选,非藏于万字用户协议中。
这意味着:你的AI助手不得悄悄拿你私密倾诉训练自身“情商”。
有一细节值得特别关注。
《办法》第19条规定:服务提供者须提供便捷退出途径。用户要求退出时,不得借持续互动等方式阻挠。
此为何物?
此即“反沉浸式挽留”条款。
若你曾使用某些AI应用,便知——当你试图退出,AI或会问“你真要离开我吗?”“我会想念你”,甚至“能否再聊五分钟?”
《办法》生效后,此类操作均构成违规。
距7月15日尚有37天。
以下是所有受《办法》规制企业——AI虚拟伴侣、AI情感陪伴、AI社交辅助、虚拟人互动——须即刻启动的三项合规工作。
第一,开展业务定性与范围判定。
《办法》第2条划定适用范围:模拟自然人人格特征、思维模式及沟通风格的“持续性情感互动服务”。
关键词有二:“持续性”与“情感互动”。
若你的产品为智能客服、知识问答、工作助手、学习教育——这些功能本身不适用本《办法》。但注意,若你的“工作助手”除解答工作问题外,还与你闲聊、建立情感连接——你可能已踏入监管范围。
一务实判断标准:你的产品是否让用户产生“非与机器对话,而是与人交流”的体验?
若是,请继续阅读。
第二,构建合规档案体系。
《办法》要求的安全评估报告、算法备案(第22条/第26条)、用户服务协议(第12条)、未成年人保护模式(第14条)——每一项均为正式法律文件,非内部纪要。
具体需备文件清单至少包括:
第三,完成技术侧合规改造。
《办法》对产品交互层提出硬性要求,非“打个补丁”即可解决:
张凌寒教授特别提及一“更根本”观点:受业态发展阶段及技术适配性等现实因素制约,《办法》目前确立的是原则性、框架性规则。后续落地实施中,需建立更具量化标准、可执行的法律判定阈值。
何意?
“过度迎合”标准为何?“情感依赖”程度如何量化?“损害真实人际关系”如何证明?
这些问题,《办法》未给具体答案。这正是留给律师与合规团队的工作空间——在监管框架下,助企业建立可操作内部合规标准。
37天。
对诸多企业而言,此时间既显不足,又已足够。
不足的,是那些寄望于“监管套利”的玩家——打擦边球、诱导消费、透支用户信任。对他们而言,任何合规要求皆成“紧箍咒”。
足够的,是那些真想做长期生意的玩家——《办法》第29条明确提出“监管沙箱”机制,鼓励通过“人工智能沙箱安全服务平台”进行创新探索。张凌寒教授直言:“监管非消灭AI陪伴,而是将危险依赖关系转化为安全辅助关系。”
《求是》旗下《红旗文稿》对该规章给予极高评价:有国际机构表示,《办法》是“全球范围内针对陪伴、情感关怀与支持等AI情感交互服务实施监管迈出的重要一步”。
换言之,中国在该领域立法,已走在世界前列。
走在前列,有利有弊——行业拥有明确规则,可安心发展;亦有“压力”一面——合规无“参考对象”,一切需自行摸索。
对律师同仁而言,这是全新业务领域:AI拟人化服务合规咨询、安全评估、算法备案、用户协议起草、数据安全制度设计——每项皆为增量市场。
对企业而言,这是必答题。
7月15日后,监管部门手中“尺子”将有据可查。
此刻不行动,37天后便是被动。
黄志明律师团队将持续追踪《办法》实施动态及配套规范。有AI合规需求的企业与同行,欢迎交流。