OpenAI创始人豪宅遭燃烧弹袭击,嫌疑人落网
当地时间周五凌晨,一名二十岁男子向奥特曼位于旧金山的住宅投掷了燃烧装置,引发火灾。
这处房产价值约两千七百万美元。
凌晨四点十二分,警方接到报案,经查证无人员伤亡,火情已得到控制。但作案者已步行逃离现场,其体貌特征已被公布。
凌晨五点零七分左右,警方再次接到报警,称在OpenAI办公楼外有一名身份不明的男子威胁要焚毁建筑。
警员迅速发现此人与向奥特曼住宅投掷燃烧弹的嫌疑人特征吻合,应系同一人,随即将其逮捕。
目前,旧金山警察局已在社交媒体X上发布通告。调查仍在继续,尚未正式提起诉讼。
面对此事,奥特曼表达了强烈愤慨!他罕见地公开了全家合影,并于深夜发布长文。
奥特曼称,「我爱我的家人胜过所有」
在这篇长文中,奥特曼首次深入回应了公众对人工智能的深度忧虑。他承认这种恐惧是合理的,呼吁通过全社会的政策回应和AI技术普及来应对,坚决反对由少数实验室垄断未来控制权。
同时,他也进行了深刻的自我反省,为自己因「回避冲突」而引发的董事会风波致歉。
他尖锐地指出,当前AI领域频繁的内部争斗,根源在于通用人工智能如同「魔戒」般的权力诱惑。而唯一的解决之道,就是不让任何人独享控制权。
最后,他呼吁各方保持冷静,停止极端的言辞与物理攻击。
近几个月,美国民众对AI的看法急转直下。
就在Anthropic拒绝国防部合同要求的几小时后,OpenAI宣布与五角大楼达成协议,此举招致了大量负面评价。
奥特曼也清楚,AI在美国大众心中的形象并不佳,许多人认为电价上涨、大规模裁员的主要原因就是AI。
奥特曼的遭遇并非首例,众多科技领袖都曾受到类似威胁,各大公司也都加大了对高管安全保护的投入。
仅在2019年,扎克伯格的安保费用就超过了两千万美元。
而特斯拉提交给美国证券交易委员会的文件也披露了马斯克的安保成本:该公司「在2023年为此类安保服务支付了约两百四十万美元,并在2024年2月之前支付了约五十万美元,这仅是总成本的一部分。」
此前,美国各地曾爆发大规模反AI示威,愤怒的人群聚集在OpenAI和Anthropic总部外,街道上写满标语。
三月份,曾发生过一场美国史上最大规模的全球AI抗议活动,两百人横跨Anthropic、OpenAI、xAI高呼「停止AI竞赛」!
核心诉求只有一个:若主要AI实验室达成一致,应承诺暂停更强大模型的训练与发布。
参与联盟包括MIRI、PauseAI、StopAI、QuitGPT等组织成员,以及部分学者与前实验室员工。
如今,AI安全派与技术加速派之间的关系已极度紧张。
目前,投掷燃烧瓶的嫌疑人被发现在社交媒体Ins上提及《沙丘》中人类对抗AI的圣战。
我希望图片是有力量的。通常我们尽量保持低调私密,但在这种情况下,我决定分享一张照片,希望它能打消下一个人向我们家扔燃烧瓶的念头,不管他们对我有什么看法。
上一个人是在昨晚,凌晨三点四十五分干的。谢天谢地,燃烧瓶被房子的外墙弹开了,没有人受伤。
文字也是有力量的。几天前,有一篇关于我的文章,充满了火药味。昨天有人跟我说,在大家对AI感到极度焦虑的当下出这种文章,会让我的处境变得更加危险。我当时没当回事。
现在,我大半夜醒来,火很大,并且意识到我之前低估了文字和舆论导向的力量。现在看来,正是把一些事情说清楚的好时候。
首先,我的信念。
*为每个人争取繁荣、赋能全人类,以及推动科技进步,对我来说是义不容辞的道德责任。
*AI将成为人类见过的、扩展自身能力和潜力最强大的工具。人们对这个工具的需求基本上是没有上限的,大家会用它做出不可思议的事情。这个世界理应拥有海量的AI,我们必须想办法实现这一点。
*但一切不会总是一帆风顺。对AI的恐惧和焦虑是完全合理的;我们正在见证社会发生长久以来、甚至是史无前例的巨变。我们必须搞定安全问题,这不仅仅是对齐某个模型那么简单——我们迫切需要全社会的共同响应,以抵御新的威胁。这包括制定新政策,帮助我们度过艰难的经济转型期,从而走向一个美好的多的未来。
*AI必须民主化;权力绝对不能过度集中。未来的控制权属于全人类及其社会机构。AI需要在个体层面赋能每个人,同时我们需要共同为我们的未来和新规则做决定。我认为由少数几家AI实验室来决定我们未来社会形态这种最重大的事情,是不对的。
*适应性至关重要。我们都在极其快速地学习新事物;我们的一些信念会被证明是对的,有些则会是错的。有时随着技术发展和社会演变,我们需要迅速转变观念。现在还没有人真正了解超级智能的影响,但这种影响必将是极其巨大的。
其次,一些个人的反思。
回首我在OpenAI头十年的工作,有很多让我感到骄傲的事情,但也犯了一大堆错误。
我刚刚想起了我们即将与马斯克对簿公堂的事,想起了我当初是如何死守底线,拒绝同意他想要对OpenAI拥有单方面控制权的要求。我为此感到骄傲,也为我们当时在夹缝中求生,保住了OpenAI并取得随后的所有成就而感到自豪。
我不为自己害怕冲突的性格感到骄傲,这给我和OpenAI都带来了巨大的痛苦。我不为自己在与前任董事会的冲突中表现糟糕而感到骄傲,那给公司造成了巨大的烂摊子。在OpenAI疯狂的发展轨迹中,我还犯过许多其他错误;我是一个有缺陷的人,身处在一个极其复杂的局面中心,试图每年都取得一点点进步,始终为着公司的使命而工作。我们在入局之前就知道AI的赌注有多大,也知道我所关心的、心怀善意的人们之间的个人分歧会被无限放大。但亲身经历这些痛苦的冲突,并且还要经常出面调停,完全是另一回事,我们付出了惨痛的代价。我向我伤害过的人道歉,希望我当初能学得更多、更快一些。
我也非常清楚,OpenAI现在是一个大平台了,不再是当初那个草台班子般的初创公司,我们现在必须以一种更可预测、更稳定的方式运营。过去这几年,强度极大、极其混乱且压力山大。
但抛开这些,最让我自豪的是,我们正在兑现我们的使命,这在我们刚起步时看起来简直是天方夜谭。排除了万难,我们弄清楚了如何构建极其强大的AI,弄清楚了如何筹集足够的资金来建立基础设施以交付它,弄清楚了如何打造一家产品公司和商业模式,弄清楚了如何在大规模上提供相对安全和稳健的服务,还有很多很多。
很多公司都把「改变世界」挂在嘴边;但我们是真的做到了。
第三,关于这个行业的一些想法。
过去几年我个人的体会,以及我对为什么我们这个领域的公司之间会上演这么多莎士比亚戏剧般抓马事件的看法,归结起来就是一句话:「一旦你见识过通用人工智能(AGI),你就再也忘不掉了。」它带有一种真实的「魔戒」效应,能让人做出极其疯狂的事情。我不是说AGI本身就是那枚魔戒,而是那种「要成为控制AGI的那个人」的极权主义思想。
我能想到的唯一出路,就是坚定地与大众分享这项技术,不让任何人独占这枚「魔戒」。实现这一点的两个最明显的方法就是:赋能个人,以及确保民主制度始终掌握控制权。
关键在于,民主进程必须始终拥有比公司更大的权力。法律和规范肯定会改变,但我们必须在民主的框架内行事,哪怕这个过程会很混乱,而且比我们希望的要慢。我们希望成为一种发声渠道和一个利益相关者,但绝不希望拥有所有的权力。
对我们行业的许多批评,实际上源于对这项技术极高风险的真诚担忧。这是非常合理的,我们欢迎善意的批评和辩论。我对那些反技术的情绪感同身受,显然技术并不总是对每个人都有利。但总的来说,我相信技术进步能为你我的家人创造一个无比美好的未来。
在我们进行这些辩论的同时,我们应该降降温,少用点过激的言辞和手段,不管是在比喻意义上还是字面意义上,都少搞点爆炸,少炸点房子吧。