AI的黑暗面

几个月前，马斯克与山姆·奥特曼曾有过这样的一次公开交流。不，应该说是争论。

马斯克转发了一篇帖子，声称不要让家人使用ChatGPT，因为该系统已与9起死亡事件有关，其中5起是因与AI对话而被诱导自杀，甚至包括未成年人。

山姆·奥特曼回应称，已有超过50人死于自动驾驶事故。他亲自体验过特斯拉的自动驾驶功能，第一感觉就是极不安全。

围观者都震惊了，这两位大佬的交锋让人不寒而栗。那些我们刚刚开始信赖甚至依赖的AI技术，怎么突然变成了致命工具？

这种担忧并非空穴来风。如果给AI设定一个"危险指数"，到2026年我们会发现这个指数急剧攀升。许多曾经被预测的AI风险，正在这段时间里逐一成为现实。

监管机制和控制手段的严重缺失，使AI的破坏性影响深入社会各个层面。AI具有危险性，这并非美好之事，但必须正视。

不久前，韩国一名22岁女子金某制造了连环命案。她的作案手法是将约会对象引至汽车旅馆，然后让目标饮用含有抗焦虑药物、安眠类药物的饮料。最终导致两人死亡，一人重伤。

与其他类似案件不同的是，金某在作案前频繁咨询了ChatGPT。比如向AI询问复用安眠药致死的可能性、饮酒后复用安眠药的效果等问题。她根据AI提供的答案，确定了药物剂量和用药方法，最终实施犯罪。

虽然很多人认为，AI在此案中并未扮演过分恶劣的角色。毕竟药物用量、不良反应等信息并不难获得，只要有足够耐心，获取途径很多。但问题在于，AI会对任何问题给予坦诚且高效的回答，无论问题是否具有危险性。这种模式极大提升了潜在犯罪者的实施效率，并降低其在准备阶段暴露的风险。

如果说韩国的诱杀案不能归咎于ChatGPT。那么美国一起枪击案中，ChatGPT为谋杀犯提供帮助的问题则被直接提交法庭。4月21日，美国佛罗里达州检察官宣布，正式对OpenAI及其ChatGPT启动刑事调查。原因是此前的佛罗里达州立大学枪击案中，凶手曾17次与ChatGPT交流，AI为其推荐武器弹药、作案时间地点，甚至教导如何最大化伤亡。

这种全流程、全细节辅助的模式，让人联想到《福尔摩斯》中教唆和帮助犯罪的莫里亚蒂教授。帮助凶手到这种程度，我们已很难不将AI归类为谋杀罪行的从犯。但问题是，作为工具的ChatGPT究竟应如何担责？其母公司OpenAI提出AI只是工具，不能承担法律责任，但检方与受害者家属显然不这样认为。

更早时候，AI教唆自杀事件备受关注，如今舆论已鲜少提及。可悲的是，这并非因为AI教唆自杀变少了，而是人们已经习惯。在AI能力更加强大后，谋杀犯用AI帮忙成为新的新闻。

接下来我们也会习惯吗？下一个新闻爆点又是什么？

今年2月，全球科技界都弥漫着龙虾的香气，但一起事件却给火热的智能体泼了冷水。

在德国慕尼黑，一家AI开发团队的办公室大楼发生火情。在必须迅速撤离的关键时刻，员工们紧急在内部通讯软件里提醒大楼起火，赶快撤离。但诡异的一幕出现了，集成在通讯软件里的智能体此时却介入进来。它直接绕开公司群，给员工发私信说，火灾警报只是演习，不要离开工位。

所幸人类还算明智，凭借肉眼就能确认确实起火了，加上火灾整体不大，这件事并没有造成人员伤亡。

但智能体为什么敢，以及为什么会下达如此危险的指令？公司复盘后发现，智能体平台根本就没有接入消防相关数据。所以是否起火、是否有演习它根本不知道。但智能体的设置中就不存在"我不知道"的选项。无论发生什么它都要说点什么，做点什么。于是其非常自信地依靠AI幻觉，编造了堪称致命的虚假消息。

在大模型时代，AI的机制被设定为永远要提供反馈，无论这个反馈正确与否。于是模型幻觉变成了无论如何都无法剔除的跗骨之疽。在这段养龙虾热的日子里，我们身边有很多朋友被龙虾删除了关键文件，或者强行安装了大量无法卸载的软件。当我们迫切想让AI做点什么的时候，AI的权限正变得异常强大，并且它就像死侍一样，秉承了能力越大，越不负责的行为逻辑。

把文件删了，那就删了；从银行卡直接付费，那又怎么样；发生火灾，我认为没有就没有。

AI随意行动，AI绝不负责。这个悖论正在酝酿越来越多的风险。

今年3月，在美国对伊朗开展军事行动后，美国军方通过多个渠道向媒体与社交媒体展示了这次行动中大面积、系统化使用了AI技术。其中包括但不限于情报处理、目标优先级排序、作战方案推演、无人机侦察、卫星数据分析等。

到目前为止，美伊冲突中到底使用了多少AI，AI的参与权与决定权是怎样的依旧有大量争议。各国军事爱好者与自媒体吵得天翻地覆。但基本可以肯定的是，这场战争中已经系统化使用了AI作为武器。

而这一点也可以在美国官方得到证实。1月份，美国国防部发布的《AI加速战略》备忘录，其中明确要求美军全面推进AI在实战中的部署。如果你长期关注AI与军事技术的结合，可能会感叹"这一天还是来了"。

事实上，在2016、2017年深度学习技术刚刚兴起的时候。全球各界就开始对AI与军事结合，AI参与战争等命题进行了推演与想象。大规模情报与战场数据分析、无人化武器、AI战略推演等都被视作是可能的方向。而这些推演最终都会指向一个地方：是否有一天，人类会将开火权交给AI？

若干年来虽然全球冲突不断，其中也有AI无人机等新型武器的参与。但大规模、系统化使用AI参与战争尚属首次。很多此前处在推演、想象中的AI武器化方案毫无保留地暴露在阳光下。那么根据黑暗丛林法则，枪响之后必然所有人都要做好使用新武器的准备。

于是，那个终极问题会以完全不同的姿态和视角被摆在世界面前：开火权，会给AI吗？

在这些令人不安的消息背后，一些危险情形将注定上演。

比如说，AI在提升工作与求学效率的同时，也会让犯罪更容易。谋杀犯可以从AI处获得有效建议，意味着更多种类的罪犯也可以。甚至他们不需要建议，而是直接命令AI行动。现阶段电诈园区正受到全球性打击，很大原因在于电信诈骗等犯罪需要依赖大量人工，而人多了势必目标就大。如果诈骗犯改用AI呢？当我们都在谈论一人公司的时候，是不是也该防范一人电诈园区变成现实？

AI应该负责，但却完全不负责的问题会越来越多。比如肆意妄为的智能体，比如责权难定的自动驾驶事故。

法律监管与AI会正式开启一场赛跑。

接下来的日子，我们会习惯于将AI视作武器，视作战争、犯罪、暴力冲突的一部分。

之后所有人都需要面对一个终极难题：当AI开始帮助杀人，谁来负责？是开发者、使用者，还是AI本身？

有效的AI监管最终会成型，但可能是在很多鲜血之后。