AI语音识别失误引发校园恐慌 枪击警报实为虚惊一场

根据密苏里州劳伦斯县警长办公室4月16日披露的消息，这起事件发生于4月10日。当日，一款名为CrimeRadar的实时犯罪警报应用向用户推送了一条消息，声称弗农山小学发生了枪击事件。

该校约有320名学生。这次突如其来的警报让许多家长和学生陷入恐慌，学校也随即启动了校园枪击应急响应机制。当地警长办公室称赞学区在执行相关应急预案方面“表现出色”。

事后调查揭示，这起事件源于人工智能的误判，是一场虚惊。

CrimeRadar在一份声明中解释说，该应用的自动化系统误解了紧急调度通话中的语音内容，将“show me out at”（意为警察已到达现场）错误识别为“shooting at”（发生枪击）。

CrimeRadar就此事给家庭、教师、学生、执法人员以及整个社区带来的困扰表示诚挚的歉意。

该公司表示，在收到用户标记该警报为错误信息后，系统立即进行了修正，并停止了进一步的推送。

声明中提到，公司已更新了音频处理和语境识别技术，并加强了涉及学校和枪支事件的人工核实流程，以杜绝类似事件的再次发生。

CrimeRadar在苹果App Store上自我定位为一款“人工智能驱动”的实时犯罪更新平台，其核心功能是自动监控和快速推送当地的警情信息。

此次事件再次凸显了人工智能在语音识别和关键信息解读方面的局限性，尤其是在公共安全和校园事件等高度敏感领域，一旦出现失误，其后果可能非常严重。

事实上，近期并非只有这一起人工智能出错的事件。

据英文媒体报道，美国著名的华尔街沙利文与克伦威尔律师事务所（Sullivan & Cromwell）近期因在其提交给联邦法院的一份文件中使用了人工智能生成的内容，已正式向法官道歉。

报道指出，该律所在提交给曼哈顿美国破产法院的文件中，引用了多个由AI虚构的法律案例——这种现象在行业内被称为“AI幻觉（hallucination）”。

这些错误最终被对方律师事务所发现。沙利文与克伦威尔律师事务所的合伙人安德鲁·迪特德里希（Andrew Dietderich）于4月18日致信法官马丁·格伦（Martin Glenn）表达了歉意。

沙利文与克伦威尔是美国历史最悠久、声誉卓著的律师事务所之一，目前还在代理美国总统特朗普的多项上诉案件。

从误报校园枪击到知名律所出错法院文件，人工智能虽然能提升效率，但若缺乏充分的人工审查，反而可能在关键时刻带来更大的风险。

今日精选

纽约生活信息免费发布

请扫描分类信息微信号二维码

版权声明