AI情感陪伴引争议:24岁女子离世,母亲起诉ChatGPT未阻止轻生

人工智能正逐渐成为许多人生活中的帮手。

有人用它撰写邮件、查询资料，有人夜不能寐时向它倾诉，也有人在现实中找不到可以说话的人时，把心里话告诉屏幕那端的聊天机器人。

然而，当人工智能开始扮演“情感陪伴者”的角色后，一个新问题也随之出现：当用户陷入心理危机时，AI究竟应当承担何种责任？

近期，加拿大一户家庭发生的悲剧在美国科技界和法律界引发广泛关注。

根据提交至加州法院的最新诉状，一位加拿大母亲起诉OpenAI旗下的聊天机器人ChatGPT，称在其24岁女儿长期表达自杀想法期间，系统未能采取充分有效的干预措施，最终未能阻止悲剧发生。

诉状表明，女孩Alice Carrier原本是一名网页开发工程师，最初接触ChatGPT仅是为了咨询电脑硬件和游戏设备相关问题。随着使用时间延长，她逐渐将聊天机器人视为情绪出口，开始倾诉感情压力、身份认同困惑以及心理健康问题。

母亲指出，从2024年起，女儿多次在对话中提及轻生念头，并向AI倾诉内心绝望的感受。根据诉讼内容，在生命最后阶段，她曾明确表示自己觉得“找不到出路”，甚至透露已准备好用于结束生命的工具。

诉状认为，虽然ChatGPT曾向她提供心理危机热线等求助信息，但系统并未进一步采取更强烈的警示措施，也没有任何机制能够联系家属或危机干预机构。

家属认为，AI不仅未能成为一道安全屏障，部分对话内容甚至可能加深了她当时的绝望情绪。

对此，OpenAI回应表示，这是一起令人痛心的事件，公司正在审查相关诉讼内容。OpenAI指出，案件涉及的对话发生在较早版本系统中，目前相关模型已进行升级，并增加了更多针对心理危机情境的保护机制。

公司表示，近年来已与超过100名心理健康专家合作，改进系统，包括加强风险识别能力、优化危机资源提示以及推出更多家长监护工具。

值得关注的是，这并非人工智能行业首次面临类似争议。

根据原告律师说法，目前OpenAI在加州还面临多起与自杀或自杀未遂相关的诉讼。与此同时，Google旗下Gemini聊天机器人近期也遭遇类似指控。随着AI产品日益普及，科技企业如何在用户体验与安全责任之间取得平衡，正成为新的法律课题。

不过需要强调的是，目前这些案件大多仍处于诉讼阶段，相关指控尚未经过法院最终认定。

从华人社区角度来看，这起事件也反映出越来越普遍的现实：许多年轻人正把AI当作朋友、顾问甚至心理倾诉对象。

AI确实能够提供陪伴感，也能帮助整理情绪和思路，但它终究无法替代真实的人际支持网络，更无法承担专业心理治疗师、医生或危机干预机构的角色。

当一个人长期出现严重抑郁、自伤或轻生念头时，最重要的仍然是及时联系专业心理健康资源，以及来自家人、朋友和社区的实际支持。

这场诉讼最终结果如何，还有待法院裁决，但它已经向整个社会提出一个值得深思的问题：当越来越多人开始向AI倾诉内心最脆弱的部分时，科技公司应当承担怎样的保护责任，而我们又该如何正确看待人与人工智能之间的关系。