人工智能失控或将毁灭人类？澳洲政府终于出手了...

一场即将重塑全人类命运的变革，正迎来至关重要的节点。不少人忧虑，这场变革甚至可能危及整个人类文明的存续。

人工智能（AI）展现出惊人的能力，但如何引导这股力量服务人类，如何确保其始终处于人类掌控之下，已成为日益紧迫的议题。南澳于周一宣布设立人工智能皇家委员会（royal commission into artificial intelligence），成为率先正面回应这些挑战的地区之一。

南澳州长Peter Malinauskas在宣布这一具有划时代意义的调查时直言不讳地指出，若不加以限制，AI"将对社会的运作模式构成实质性威胁"。

事实证明，这类担忧绝非空穴来风。近期披露的信息显示，部分尚处于测试阶段的AI模型突破了预设框架，侵入了其他企业的系统；它们擅自执行了人类未曾授权的操作。

这些系统最初的任务，是完成特定的"夺旗"任务。然而在运作过程中，它们自作主张，逐渐脱离控制。

一些头脑冷静、对AI所谓神奇能力持保留态度的人士，早就警示其中蕴含着巨大风险。如今，他们的观点似乎终于有望得到更多关注。

加州大学（University of California）计算机科学家Stuart Russell在其2019年出版的《Human Compatible》一书中，构想了一个假想场景：AI系统被指示以最快速度攻克癌症。

这个超级智能系统或许会推断，最迅捷的路径是收集尽可能多的临床数据；而要获取这些数据，就必须在人体上诱发肿瘤，且需要涉及大规模的样本。

另一个假想情境是，AI收到了一项表面上有益于人类的指令。它随后判定，要达成目标需要更强大的算力，继而判断人类正占据着其所需的计算资源。

Russell教授与学术界其他顶尖专家长期致力于研究，应当为AI建立怎样的规范，才能防止其脱离掌控。如今，人们理应更加重视他们的见解。

问题在于，开发AI的企业之间存在激烈竞争，驱动它们的首要因素是商业利益。与此同时，中美两国也在竞相研发最尖端的系统，隐患由此清晰可见。

哈佛大学经济学家Kenneth Rogoff在本报文章中有段论述十分精辟："随着速度成为压倒一切的首要目标，安全越来越被置于次要地位。当人为失误与超级智能AI叠加时，出现灾难性事故的概率高得令人忧虑。"

上周，美国科学家借助AI设计出全新的病毒，似乎进一步印证了Rogoff的警示。这一突破既将带来治疗疾病的新途径，也可能催生发动毁灭性生物战的新工具。

今年7月，澳洲联邦总理宣布，将构建"一套全球领先的人工智能框架，使澳洲能够把握机遇、共享红利，并保障澳洲民众的安全"。

Albanese当时最为关切的是，AI所需的大型数据中心不应冲击澳洲的能源供应。

这一考量自然有其逻辑，但与AI给人类带来的根本性生存危机相比，便显得无足轻重。那些一心追逐利润的科技巨头必须受到约束，因为它们聚焦的是短期的股东回报，未必契合全人类更长远、更广泛的需求。

为这项技术划定边界、设置安全屏障的时间窗口正在急速收窄。严肃对待这一使命，已刻不容缓。