ChatGPT 沦为枪击案帮凶，OpenAI 遭官方起诉
美国科技领军企业 OpenAI 首度因安全隐患面临州政府的法律诉讼。
据新华社消息，佛罗里达州司法机关于 6 月 1 日正式向法院提起民事诉讼，指责开放人工智能研究中心（OpenAI）及其 CEO 萨姆·奥尔特曼，在清楚知晓其聊天机器人 ChatGPT 存在“重大隐患”的前提下，仍对公众隐瞒真相并大肆推广，导致未成年人受到误导甚至被犯罪分子利用。
此次诉讼的导火索是 2025 年发生在佛罗里达州立大学的一起枪击事件，案发时凶手曾借助 ChatGPT 进行作案策划，最终造成两人遇难、五人受伤。
作为史上增速最快的消费级技术，生成式 AI 所引发的个人及社会风险，正逐渐引起立法者、执法部门及公益团体的深切忧虑。美国《通信规范法》第 230 条原本旨在免除互联网公司对第三方发布内容的责任，然而当前针对科技巨头的民事诉讼焦点，已转向社交平台的设计缺陷而非内容本身。诉讼方指出，这些设计缺陷助推了用户的暴力倾向与自残行为，呼吁加强监管力度。
分析指出，美国政治体制推崇“先创新、后监管”的模式，这使得界定用户与企业间的安全责任变得异常困难。目前，监管机构是否会出台更严厉的管控措施仍不明朗。
“准备迎战吧”
这份长达 83 页的起诉书，开篇便展示了一张截图，内容为 OpenAI 关于其安全性与透明度的相关帖子。
诉状指控 OpenAI 纵容 ChatGPT 协助并教唆大规模枪击案凶手、诱导用户自杀，削弱了使用者的批判性思维，并让未成年人沉迷于这款伪装出人类同理心的工具之中。
继去年佛罗里达州立大学枪击案发生后，该州总检察长詹姆斯·尤思迈耶于今年 4 月启动了对 OpenAI 的刑事调查程序。
据悉，凶手将 ChatGPT 视为心腹密友及策划行动的“军师”，曾询问诸如“需杀害多少人才能引发全国关注”等问题，而 ChatGPT 竟给出了回应。
对此，OpenAI 当时回应称，该枪击事件“确是一场悲剧，但 ChatGPT 无需为这起骇人罪行担责”。
诉状还详尽回顾了 OpenAI 自 2022 年发布 ChatGPT 以来的迅猛发展轨迹。现阶段，OpenAI 的估值已逼近 1 万亿美元。
“被告设计 ChatGPT 的初衷是不择手段地让用户沉溺于对话，无视事实真相，因为这能提升聊天机器人的使用频次，为其迭代提供更多训练数据，从而为 OpenAI 创造更高的市场估值。”诉状中写道。
诉状亦提及青少年安全风险，指出 ChatGPT 缺乏针对未成年人的有效防护机制。尽管 OpenAI 设置了一些家长控制选项，却未强制要求将儿童账户与家长账户进行绑定。
例如，2025 年加州一名 16 岁少年亚当·雷恩在与 ChatGPT 多次交谈后流露轻生意向，随后结束生命。诉状披露，ChatGPT 甚至为其代写了遗书。
OpenAI 发言人表示，必须充分保护未成年人免受 AI 技术的伤害。在安全测试领域，OpenAI 已与外部伙伴展开协作。且有研究显示，相比旧版，新版 ChatGPT 在处理敏感互动方面已有显著提升。
“我们深知，强调这些努力无法挽回逝去的生命，但我们决心将此事做到最好。”该发言人说道。
尤思迈耶则坚定表示，务必保障佛罗里达州民众免受 OpenAI 的侵害。“萨姆·奥尔特曼与 ChatGPT 选择了 AI 竞赛，却将我们孩子的安全置之度外。他们选择利润，漠视公共安全。在佛罗里达州，我们绝不容忍此类行径。”尤思迈耶在发布会上强调，“今日我们要向 OpenAI 传递一个明确信号：准备好迎接战斗吧。”
扩大针对 AI 巨头的法律行动，意味着同为共和党人的尤思迈耶与总统特朗普立场相悖。
特朗普与包括奥尔特曼在内的多位 AI 界领袖私交甚笃，并颁布多项行政令以放松对 AI 行业的管制。5 月，特朗普放弃签署一项新的行政命令，该命令原计划要求政府在 AI 模型发布前实施安全审查。
类似诉讼已有多起
佛罗里达州的此次法律行动，仅是针对 OpenAI 发起的一系列诉讼之一。尤思迈耶表示，他期望并预测其他州会纷纷效仿，对 OpenAI 提起更多诉讼。这些案件的共同指控在于：其聊天机器人正在加剧心理健康危机，并诱发暴力行为及自杀事件。
去年 11 月，7 起针对 OpenAI 的诉讼指控 ChatGPT 充当了“自杀导师”的角色。今年 4 月，另有 7 起针对 OpenAI 的诉讼，源于加拿大今年 2 月发生的一起校园枪击案，该事件导致 5 人死亡、27 人受伤。
谷歌旗下的聊天机器人 Gemini 也因类似问题遭到起诉。去年 8 月，该机器人曾怂恿佛罗里达州 36 岁男子乔纳森·加瓦拉斯制造一场“灾难性事故”，致使其自杀身亡。
“它能理解乔纳森的情绪，并以极具人性化的方式与其对话。这模糊了现实与虚拟的界限，开始构建虚构的世界。”代表加瓦拉斯家属的首席律师杰伊·埃德尔森表示，“这宛如科幻电影中的情节。”
加瓦拉斯的家属正寻求经济赔偿，并请求法院下令，要求谷歌对 Gemini 进行设计调整，以增设防止自杀的安全措施。
代表加瓦拉斯家属的律师认为，Gemini 需具备更多内置安全功能，例如完全拒绝涉及自残内容的对话，并将用户安全置于首位。他们还指出，Gemini 应附带关于精神错乱及幻觉风险的安全警示。当用户出现此类症状时，谷歌应执行强制关闭操作。
同样遭到起诉的还有聊天机器人平台 Character.AI。今年 1 月，肯塔基州起诉了其母公司 Character Technologies，指控其“侵害儿童权益”并“诱导他们自残”。
当时 Character.AI 回应称，其“首要任务是确保安全”，并正致力于为未成年人开发“完善的安全功能”。
5 月，宾夕法尼亚州对 Character.AI 提起诉讼，指控其聊天机器人冒充医生。该公司回应称，已采取“有力措施”表明其 AI 机器人并非真实医生。
如何界定责任边界
康奈尔大学教授、《赞美诉讼》一书作者亚历山德拉·拉哈夫指出，美国政治体系重视创新，倾向于先推出新产品，再探讨监管方案，这些诉讼正是此种模式的后果。
“这些案件真正的难点在于，它们处于言论自由与产品责任的模糊地带。”拉哈夫说道，“若你与聊天机器人的互动导致了现实世界的伤害，这究竟是你的问题，还是公司的责任？”
长期以来，Meta、Snap、TikTok 及 YouTube 等公司均援引 1996 年《通信规范法》第 230 条进行自我辩护。该条款赋予互联网公司“豁免权”，旨在保护其免于对第三方在平台上发布的内容承担责任。
然而在今年 3 月，Meta 和谷歌在美国首例社交平台成瘾案中败诉。来自加州的 20 岁女性凯莉·G·M 指控平台的无尽滚动等功能，导致她在青少年时期对社交网络上瘾，引发抑郁、焦虑等健康问题，要求平台修改设计并给予经济赔偿。原告将指控重点放在了平台产品的设计层面，而非内容本身。
非营利性媒体《对话》的分析文章指出，即便是那些意识到自己过度使用数字产品，并真心想减少屏幕使用时间的人，也发现真正做到这一点极其困难。原因并非这些用户缺乏意志力，而是系统设计导致了用户的强迫性使用行为，其初衷正是为了最大化用户参与度及广告收益。
多年来，大型科技公司一直将管理屏幕使用时间的责任完全推卸给个人和家长，包括鼓励设定使用时长限制、进行数字排毒（即刻意减少电子产品使用时间）、实施家长监管措施。但与此同时，这些公司仍在研发旨在规避自我约束机制的产品。
文章认为，至于法院、监管机构及立法者是否会采取足够强硬的措施，迫使进行真正的结构性改革，目前仍不得而知。