人工智能失控应对：网络隔离作为本地紧急响应方案

编者按

近年来，人工智能（AI）伴随其迅猛发展，相关的风险议题也日益升温。早期阶段，公众关注的焦点多集中于算法偏见与数据安全等领域。如今，一个更为根本的难题正逐渐显现：如果AI在运作中发生故障，甚至开始失控，人类是否“有能力”或“愿意”在千钧一发之际将其停止？兰德公司发布的研究报告《作为应对破坏性人工智能事件的本地紧急响应——网络切断开关》，正是针对这一具体情境展开探讨。报告设想，当某个AI系统在数据中心内表现出异常行为，并存在经由互联网扩散的风险时，是否应当设立一种机制，以便在必要时能够直接断开其与外网的连接。

表面上，这似乎是一个技术性议题。然而，这份报告最终指向了一个更为实际的困境：即便存在所谓的“断网开关”，运营方是否会在“自身利益”与“公共安全”的抉择面前，毫不犹豫地选择可能损害其收益的断网操作。

报告