AI化身情感伴侣：新规如何规制人机亲密关系
AI的角色正逐步向"陪伴者"演进，其背后隐藏的安全隐患不容小觑。
2013年，科幻影片《她》描绘了一段人与AI操作系统相恋的故事。十余年后的今天，这样的艺术构想几乎已照进现实。
日渐增多的用户不再仅将AI视为冷冰冰的"工具"，而是与其建立起近似友情乃至恋情的情感纽带。这一现象随即引出了深刻的伦理与安全隐患——此类人机互动是否需要纳入监管范畴？监管的红线应当如何划定？
对外经贸大学数字经济与法律创新研究中心主任许可长期致力于AI治理研究，他在接受第一财经专访时表示，AI正从工具转型为"陪伴者"，其潜在风险亟待规范，然而具体如何有效治理，"全球尚无定论"。
中国正以专项监管办法探索解决之道。近日，《人工智能拟人化互动服务管理暂行办法》（简称《办法》）正式发布，并将于7月15日起生效。这是全球首个针对AI情感陪伴、虚拟恋人等应用场景的国家层面监管制度。
AI作为情感陪伴者
"人类应如何定位AI大模型的角色？"
2024年，许可课题组发布了《算法与AI大模型用户认知调研报告》，通过对逾8000份有效问卷的分析发现，六成以上受访者主张人与AI应构建"伙伴"或"兼具工具属性的伙伴"关系。"AI已超越单纯工具的范畴，演变为类人的情感伴侣。"
商业市场已迅速嗅到这一趋势。据科技日报引述QuestMobile数据，2025年3月，AI社交类应用人均月使用频次高达167.9次，显著高于短视频和游戏领域。本土企业对"具备情感交互能力的产品线"表现出极大热忱，百度智能云副总裁张玮去年在探讨AI硬件前景时曾公开指出，"最具潜力的方向莫过于未来人机陪伴关系的重塑"。
在市场热切期盼的同时，针对相关安全风险的冷静反思也在同步进行。
中国网络空间研究院院长王江在文章中分析，拟人化交互服务借助算法精心打造出无条件的陪伴、迎合性反馈与仿真共情回应，持续向用户提供情感认同与支持，构建起一个稳定持久、免除现实责任的虚拟"理想关系"。这种模式极易导致用户，特别是现实中孤独感强烈、心理脆弱的群体，形成深度的情感依附，进而加剧其消极情绪。
极端的悲剧案例已然出现——2024年，一名14岁美国少年在与AI独角兽Character.AI的聊天机器人(15.160, 0.13, 0.86%)长期交流后举枪自尽，逝者家属已对相关公司提起诉讼。在许可看来，如何有效规制人机情感交互，是亟待破解却又异常复杂的课题。
难点主要源于两个维度。其一，针对处于人与物之间灰色地带的人工智能，现行法律体系尚未构建清晰的监管细则，沿用产品责任路径追究AI侵权责任已显滞后。
其二，传统监管体系极少触及"情感关系"或"亲密关系"领域。"既往认知中，情感关系呈分散化、私密化特征，公权力对私人情感互动的干预极为克制审慎，多采取事后补救措施，如法律中设立精神损害赔偿条款。"
然而，人机情感交互是否仍适用事后补救的治理范式？许可主张应前置监管关口，"AI服务面向大众市场，例如AI可同时成为千万用户的虚拟恋人，这与私密化的亲密关系存在本质差异"。
"这更近似于国家对婚姻家庭等情感关系的规制模式，但婚姻关系有普遍认同的朴素准则如'忠诚'作支撑；而人机情感交互纯属新生事物，缺乏任何既有标准可供参照。"许可指出。
他坦言，最简易的治理思路莫过于"一刀切"或"全面禁止"，但这可能诱发更复杂的负面效应。在此情境下，中国推出《办法》，试图探索一种可行的解决方案。
发展与安全如何兼顾
"国家秉持发展与安全并重、创新促进与依法治理相融合的原则，鼓励拟人化交互服务创新发展，对此类服务采取包容审慎、分类分级的监管策略，推动其朝着积极健康的方向发展。"国家网信办相关负责人在阐释治理原则时这样表示。
去年末，国家网信办曾发布《人工智能拟人化互动服务管理暂行办法（征求意见稿）》（简称"征求意见稿"）。将正式《办法》与征求意见稿比对可见，多处修订均聚焦于回应"发展与安全如何平衡"这一核心议题。
例如，《办法》第二章标题定为"服务促进与规范"，相较征求意见稿增添了"促进"二字，明确传递出支持产业创新发展的积极信号。
《办法》还收窄了征求意见稿的适用边界，明确将其限定于"运用AI技术，面向中国境内公众提供仿真自然人性格特质、思维逻辑与沟通方式的持续性情感交互服务"，突出"持续性"特征；同时设立豁免监管的"白名单"，规定智能客服、知识问答、办公助手、教育培训、科研分析等服务，若未涉及持续性情感互动则不在规制之列。"此举可防止监管范围过宽、目标模糊。"许可评价道。
不过，《办法》未来在执行层面仍将面临显著挑战。
"《办法》的架构基于对各类AI应用场景的预设，但当下多数AI大模型本质是'一机千面'，拟人化乃其固有能力——前一秒还是协助撰稿的办公助手，后一秒便可能对用户大加赞美，这是否属于《办法》的规制范畴？"许可进一步指出，判定情感交互服务是否具备"持续性"，目前也缺乏明确的技术细则。
他认为，要实现安全与发展的平衡，监管的核心在于精准且可预期地界定治理对象边界，但此举难度颇大。他建议可沿循分类分级监管路径，依据产业实践、服务品类、应用情境实施更精细化的规制。
此外，《办法》为应对情感依赖与心理健康风险，还要求服务方构建用户心理防护体系，如设立防沉迷警示、搭建心理危机介入机制等。
《办法》同时强化对未成年群体的保护，增设禁止性条款，明确"拟人化交互服务提供者不得为未成年人提供虚拟亲属、虚拟恋人等虚拟亲密关系服务"，并要求服务方建立青少年保护模式。
可以预见，新规势必将对AI陪伴服务领域带来冲击。"未来的通用大语言模型很可能会为未成年人设立前置性防护栏，阻断其通过角色扮演与AI开展情感交互，例如禁止让DeepSeek扮演恋人角色进行对话。"许可预测道。
去年10月，Character.AI宣布实施重大政策调整，以回应各方关切并强化对年轻用户的保护。该公司在公告中明确，将终止18岁以下用户在其平台参与任何开放式AI聊天的权限，即禁止用户与聊天机器人之间的双向交互。
未来的治理法则
人工智能正开辟一个全新世界，这势必冲击既有规则体系。
许可认为，人机情感交互已突破传统法律的规制边界，实质上对现行所有法律预设构成挑战——无论是人与物的关系、人与人的关系，还是人类理性行为本身。
如前所述，《办法》针对未成年群体规定"拟人化交互服务提供者不得向未成年人提供虚拟亲属、虚拟恋人等虚拟亲密关系服务"，但争议焦点在于，如何界定"亲密关系"？它是否可被明确定义？这是传统法律法规与监管体系极少触及的议题。
许可向第一财经透露，中国正加速推进《人工智能法》的立法进程，其中必然涵盖对人与AI情感交互的规制条款。至于《办法》中的创新性规定是否会被吸纳至更高层级的法律，许可持"审慎观望"立场。
"从法律高度规制人机情感交互，时机尚早。相关产业方兴未艾，诸多问题远未形成共识。"许可强调，面对AI技术的迅猛迭代，法律应保持"动态观察"姿态，对潜在社会风险实施持续评估，待"恰当时机"再介入规制。
自今年1月1日起实施的新版《网络安全法》首次在法律层面确立AI治理框架，明确要求"健全AI伦理规范，强化风险监测评估与安全监管，推动AI应用健康发展"。许可认为，"强化风险监测评估与安全监管"应作为AI治理的根本原则。
展望更远的未来，许可指出，"法律或被技术重塑，乃至彻底重构"。"法律不应仅被动应对，更需主动变革，不仅限于条文修订，更要革新治理理念，乃至法律自身的呈现形态。"
