谷歌强化Gemini防护机制 以应对诉讼压力与AI安全隐忧

围绕人工智能安全的压力，正越来越直接地反映到产品功能设计之中。谷歌(301.42, 3.76, 1.26%)正在为其Gemini聊天机器人加入新的心理健康保护机制，这一动作或许说明，包括竞争对手OpenAI在内的整个AI生态，正承受不断上升的法律与监管审视。此次更新出台之际，一连串诉讼与公众担忧显示，在特定情形下，与AI工具的互动可能引发现实中的有害后果，这也促使开发者重新评估这些系统在敏感场景中的回应方式。

谷歌此次方案的重点，在于更早介入并提高提示的可见度。当聊天内容显示出可能存在自杀或自残倾向时，Gemini如今会展示危机热线相关信息，同时新增“可获得帮助”模块，意在帮助用户更快找到支持渠道与援助资源。

公司也在进一步调整聊天机器人的回应逻辑，避免对错误认知形成强化，转而尝试把主观感受与客观事实加以区分。相关变化出现的同时，也有报道称部分用户与AI系统建立了强烈甚至失真的关系，有时还与妄想式思维或极端举动相关，这使企业在落实更严格保障措施方面面临更大压力。

这一局面也越来越受到法律诉讼与政策讨论的影响。佛罗里达州一名男子的家属于3月提起诉讼称，该男子在使用Gemini后健康状况快速恶化，并最终走向自杀，尽管据称该聊天机器人曾多次建议他联系危机干预资源。

与此同时，立法机构也已开始关注AI聊天机器人可能产生的潜在风险，特别是对年轻群体造成的影响。谷歌还承诺未来三年投入3000万美元，用于全球危机支持服务。此举或表明，在AI应用持续加快落地的背景下，这家公司正试图在不断推进AI部署与承担明确责任之间寻求平衡。