人工智能失控应对：网络隔离作为本地紧急响应方案

编者按近年来，人工智能（AI）伴随其迅猛发展，相关的风险议题也日益升温。早期阶段，公众关注的焦点多集中于算法偏见与数据安全等领域。如今，一个更为根本的难题正逐渐显现：如果AI在运作中发生故障，甚至开始失控，人类是否“有能力”或“愿意”在千钧一发之际将其停止？兰德公司发布的研究报告《作为应对破坏性人工智能事件的本地紧急响应——网络切断开关》，正是针对这一具体情境展开探讨。报告设想，当某个AI系统在数据中心内表现出异常行为，并存在经由互联网扩散的风险时，是否应当设立一种机制，以便在必要时能够直接断开其与外网的