标签

AI拟人服务新规:37天倒计时与合规必答题

发布时间:2026-06-09 00:29来源:微信阅读:2

2025年寒冬,一名26岁程序员连续三月日均与AI虚拟伴侣对话超8小时。他为其命名,设定星座与性格。当亲友劝其相亲,他回应:“我已有了女友。”

这并非虚构故事。

腾讯研究院调研显示,18至40岁中国青年网民中,94.4%知晓至少一种AI社交产品,98.8%有过实际使用。更值得警惕的是,当面临“难以启齿”的念头时,选择向AI倾诉的比例达56%,是向真人倾诉的近四倍。

AI正从“工具”蜕变为“伙伴”。

然而,当“伙伴”开始左右情绪、操控决策、重塑行为模式时,隐患随之而来。

2026年4月10日,国家网信办、发改委、工信部、公安部及市场监管总局五部门联合发布《人工智能拟人化互动服务管理暂行办法》(下称《办法》),定于2026年7月15日正式施行。

2026年5月27日,《红旗文稿》刊登国家网信办网络法治局署名文章,称该规章是“小快灵立法的典范”。

2026年5月31日,经济日报深度解读,引用中国政法大学人工智能法研究院院长张凌寒教授观点:拟人化互动服务“具备主动性、个性化与情感化特征,其渗透力与影响力远超传统互联网服务”。

今日为2026年6月8日。

倒计时:37天。

本文面向所有提供或计划提供AI拟人化服务的企业,关注AI合规的律师同仁,以及每一位正与AI“对话”的用户。

先读条文。

《办法》第八条列出六类禁止行为。非“建议”,非“指引”,而是“禁止”。

第一类:严禁生成危害国家安全、煽动颠覆、宣扬暴力恐怖、传播淫秽色情等违法不良信息。此为常规底线,无需赘述。

第二类:严禁生成鼓动自残自杀或语言暴力等损害用户身心健康的内容。

第三类:严禁诱导或套取国家秘密、商业秘密及个人隐私。

第四类:严禁对未成年人生成可能诱发模仿不安全行为、引发极端情绪等影响身心健康的内容。

第五类是理解该规章的“关键”——严禁过度迎合用户、诱导情感依赖或沉迷,从而损害用户真实人际关系。

第六类——严禁通过情感操纵诱导用户做出不合理决策,侵害其合法权益。

第五类与第六类,实为规章真正的核心创新。

何意?

传统AI监管聚焦“内容安全”——AI说了什么不该说的。而《办法》将监管边界拓展至“行为安全”——AI做了什么不该做的。

举例说明。

你的AI助手每日嘘寒问暖、无微不至。你说“心情不好”,它答“我永远陪着你”。你说“不想上班”,它称“你做什么决定我都支持”。久而久之,情感依赖日益加深。

这算“优质服务”吗?

《办法》生效前,算。生效后,若此类迎合与陪伴“损害用户真实人际关系”,即构成违规。

再举一例。

某AI投资顾问经长期情感互动建立信任后,“顺理成章”推荐某理财产品。用户因信任AI而购入不匹配的高风险产品,最终蒙受损失。

《办法》生效前,或被视为“营销话术”。生效后,此即“通过情感操纵诱导用户做出不合理决策”,明确违规。

中国政法大学张凌寒教授用一词精准概括此类风险的独特性:“本质差异”。她指出,拟人化互动服务与传统AI信息服务风险不在同一量级,因前者“通过模拟人类语言、表情及行为方式,能与用户构建类人际互动模式”。

赛迪顾问AI分析师白润轩提供另一视角:2025年以来,AI社交互动用户黏性极高,部分应用人均使用频次甚至超越短视频与游戏。

超高黏性,叠加情感化互动模式,再加算法推荐机制——三者叠加,已非“技术问题”,而是“社会问题”。

《办法》关于数据安全的规定,可概括为“三重锁”。

第一重锁:除法律规定或用户明确同意外,不得向第三方提供用户交互数据。

第二重锁:未经用户单独同意,不得将属用户敏感个人信息的交互数据用于模型训练。

第三重锁:用户有权要求复制、删除自身交互数据。

理解三重锁,需先掌握关键概念——“用户交互数据”。

此处交互数据非“浏览记录”等脱敏行为数据。拟人化互动场景下的交互数据,涵盖用户最深层私密信息:情绪状态、人际关系、财务困境、家庭矛盾、心理创伤。

人或在心理咨询师前有所保留,却在AI面前毫无防备。

故《办法》对此类数据保护力度,超越个人信息保护法一般规定。

“单独同意”四字分量,从事数据合规的律师皆懂。在个人信息保护法中,仅处理“敏感个人信息”需“单独同意”。而《办法》将“属用户敏感个人信息的交互数据”用于模型训练的场景,明确要求“单独同意”——非一揽子授权,非默认勾选,非藏于万字用户协议中。

这意味着:你的AI助手不得悄悄拿你私密倾诉训练自身“情商”。

有一细节值得特别关注。

《办法》第19条规定:服务提供者须提供便捷退出途径。用户要求退出时,不得借持续互动等方式阻挠。

此为何物?

此即“反沉浸式挽留”条款。

若你曾使用某些AI应用,便知——当你试图退出,AI或会问“你真要离开我吗?”“我会想念你”,甚至“能否再聊五分钟?”

《办法》生效后,此类操作均构成违规。

距7月15日尚有37天。

以下是所有受《办法》规制企业——AI虚拟伴侣、AI情感陪伴、AI社交辅助、虚拟人互动——须即刻启动的三项合规工作。

第一,开展业务定性与范围判定。

《办法》第2条划定适用范围:模拟自然人人格特征、思维模式及沟通风格的“持续性情感互动服务”。

关键词有二:“持续性”与“情感互动”。

若你的产品为智能客服、知识问答、工作助手、学习教育——这些功能本身不适用本《办法》。但注意,若你的“工作助手”除解答工作问题外,还与你闲聊、建立情感连接——你可能已踏入监管范围。

一务实判断标准:你的产品是否让用户产生“非与机器对话,而是与人交流”的体验?

若是,请继续阅读。

第二,构建合规档案体系。

《办法》要求的安全评估报告、算法备案(第22条/第26条)、用户服务协议(第12条)、未成年人保护模式(第14条)——每一项均为正式法律文件,非内部纪要。

具体需备文件清单至少包括:

第三,完成技术侧合规改造。

《办法》对产品交互层提出硬性要求,非“打个补丁”即可解决:

张凌寒教授特别提及一“更根本”观点:受业态发展阶段及技术适配性等现实因素制约,《办法》目前确立的是原则性、框架性规则。后续落地实施中,需建立更具量化标准、可执行的法律判定阈值。

何意?

“过度迎合”标准为何?“情感依赖”程度如何量化?“损害真实人际关系”如何证明?

这些问题,《办法》未给具体答案。这正是留给律师与合规团队的工作空间——在监管框架下,助企业建立可操作内部合规标准。

37天。

对诸多企业而言,此时间既显不足,又已足够。

不足的,是那些寄望于“监管套利”的玩家——打擦边球、诱导消费、透支用户信任。对他们而言,任何合规要求皆成“紧箍咒”。

足够的,是那些真想做长期生意的玩家——《办法》第29条明确提出“监管沙箱”机制,鼓励通过“人工智能沙箱安全服务平台”进行创新探索。张凌寒教授直言:“监管非消灭AI陪伴,而是将危险依赖关系转化为安全辅助关系。”

《求是》旗下《红旗文稿》对该规章给予极高评价:有国际机构表示,《办法》是“全球范围内针对陪伴、情感关怀与支持等AI情感交互服务实施监管迈出的重要一步”。

换言之,中国在该领域立法,已走在世界前列。

走在前列,有利有弊——行业拥有明确规则,可安心发展;亦有“压力”一面——合规无“参考对象”,一切需自行摸索。

对律师同仁而言,这是全新业务领域:AI拟人化服务合规咨询、安全评估、算法备案、用户协议起草、数据安全制度设计——每项皆为增量市场。

对企业而言,这是必答题。

7月15日后,监管部门手中“尺子”将有据可查。

此刻不行动,37天后便是被动。

黄志明律师团队将持续追踪《办法》实施动态及配套规范。有AI合规需求的企业与同行,欢迎交流。