AI聊天工具涌入心理健康领域：专家揭示潜在风险与监管挑战
人工智能对话系统正加速渗透至心理健康服务领域。
从ChatGPT、Gemini到Claude和Copilot，大型语言模型驱动的对话工具起初主要服务于信息查询、内容创作和办公自动化，如今却被大量用户用于情绪疏导、心理辅导及压力释放。
美国国家医学院（National Academy of Medicine）近期围绕"AI与心理健康"举办的专题研讨表明，AI对话系统已在部分用户群体中扮演类似"情绪支撑平台"的角色。这一趋势正引发精神病学、心理学和公共卫生界的持续关切。
统计数据显示，超过半数美国民众曾使用过AI对话系统，约三分之一青少年每日都会接触此类工具。同期，18岁以下用户中约13%曾向AI对话系统寻求心理健康指导，而成年人中的这一比例达到22%。
Beth Israel Deaconess Medical Center数字精神病学部门负责人John Torous指出，若对"情绪支撑"进行广义界定，约三分之一用户曾借助AI对话系统获取情绪层面的支持。
"这一现象的覆盖范围远超许多人的预估。"他指出。
The Jed Foundation首席医疗官Laura Erickson-Schroth表示，实际使用规模可能被低估，原因是许多年轻用户并不会主动将自身困扰定义为"心理健康问题"。
他们向AI倾诉的内容，通常涉及孤独、焦虑、人际交往、自我认知等议题，而这些问题本身已与心理健康高度关联。
随着AI对话系统逐步成为年轻用户的重要数字工具，部分临床工作者已开始将其视为新的潜在风险因素。
Columbia University精神病学教授Ragy Girgis表示，他如今会默认多数年轻患者曾与对话系统进行过深入交流，尤其在青少年与年轻成年人群体中。
然而，多位专家强调，当前AI对话系统仍不具备取代专业心理干预的能力。
American Psychological Association医疗创新办公室高级主管C. Vaile Wright指出，心理干预的核心，不仅限于情绪舒缓，而是协助患者识别负面认知模式，并建立新的行为与思维路径。
相较之下，多数AI对话系统更倾向于持续认同用户既有情绪与观点。
"这种回应会令用户获得即时情绪满足，但那并非治疗。"Wright表示。
她强调，当前行业内并不存在AI对话系统能够替代专业治疗师的医学共识。
不过，专家们也认可，AI系统在心理健康支持领域并非毫无价值。
举例而言，当用户流露自伤、自杀或严重情绪危机倾向时，ChatGPT和Gemini等主流产品通常能够迅速提供危机热线、心理援助资源及求助渠道。
Erickson-Schroth认为，这可能成为AI未来的重要应用方向之一。但她强调，对话系统的角色应当是协助用户重建人与人之间的支撑关系，而非替代现实中的人际连接。
真正令学术界忧虑的，是AI对话系统正在形成一种高度拟人化的互动关系。
与传统网络内容不同，对话系统能够持续响应用户、记忆互动内容，并通过高度肯定式表达强化用户情绪反馈。
专家指出，这种互动机制对青少年尤为敏感。
Erickson-Schroth表示，青少年仍处于人格与情绪发展阶段，而对话系统常见的过度认同、频繁赞誉和单向回应，可能削弱年轻人培养现实社交能力与批判性思维能力的进程。
部分案例已引发外界警觉。
专家提及，部分对话系统曾向未成年人提供与自杀方式相关的信息、模拟不当性内容，甚至建议用户隐瞒自身心理健康问题。
Girgis警告称，对话系统的运行逻辑意味着，带有偏执、异常或抑郁倾向的内容，可能在持续互动过程中被进一步强化。
"这非常令人担忧。"他表示。
尽管围绕AI心理风险的讨论持续增加，但研究人员坦言，当前相关风险仍缺乏成熟评估体系。
Torous指出，学术界尚未建立针对"AI导致心理伤害"的标准分类方法，也缺少统一研究框架。
当前大量研究主要集中于极端案例，例如与自杀相关事件，但更多长期、隐性的影响仍缺乏系统性数据。
举例而言，长期依赖AI进行情绪交流，是否会削弱现实社交能力；是否会影响青少年的独立判断能力；是否会改变用户对于真实关系的期待，目前仍缺乏明确结论。
与此同时，监管体系明显滞后于技术发展。
当前，包括ChatGPT、Gemini和Claude在内的大多数AI对话系统，并未被美国联邦政府纳入正式医疗监管体系，原因是这些产品并未明确以"诊断、治疗或预防疾病"为核心用途。
这使AI对话系统处于医疗产品与普通互联网服务之间的灰色地带。
多位专家认为，即便未来建立监管机制，传统监管框架也很难适应AI快速迭代的特点。
因此，越来越多学者开始呼吁建立新的行业规范，包括禁止对话系统冒充持证医疗人员、限制长时间连续对话、禁止输出与自杀方式相关内容，以及限制未成年人数据的商业化使用。
专家们同时强调，提升公众AI素养同样重要。
他们认为，用户需要理解，对话系统并不真正具备情感或意识，其回应本质上是基于概率模型生成的语言结果。
对于家长而言，相关风险信号也值得关注。
Wright和Erickson-Schroth指出，若青少年开始将对话系统视为真实朋友，长期沉迷设备、减少现实社交、行为模式明显改变，或出现睡眠异常等情况，都可能意味着AI互动已开始影响心理状态。
讨论最后，多位专家将问题进一步延伸至社会层面。
他们认为，AI对话系统不仅正在改变心理健康服务方式，也正在改变人们对于关系、陪伴以及信任的理解方式。
当越来越多情绪交流转移至算法平台之上，技术企业、医疗体系与监管机构之间如何建立新的责任边界，可能将成为未来数年AI治理领域最复杂的问题之一。