AI安全的关键节点：顶尖人才为何感到担忧

1945年7月16日，新墨西哥州的荒漠中迸发出刺目的光芒。奥本海默站在观测点，握着引线的手指微微颤抖。他后来回忆，那一瞬间脑海中浮现的是《薄伽梵歌》的诗句：“我化为死神，成为世界的终结者。”这位科学家亲手制造了原子弹，却用余生致力于反对核扩散。八十一年后的今天，类似的场景似乎正在上演。只不过这次的“炸弹”不再是蘑菇云，而是一行行程序代码。2026年5月，Anthropic推出了Claude 4。各项性能指标亮眼，推理能力再获突破，各大科技媒体循例发出一片赞叹。然而这次，业界讨论的重心很快从“它有多强大”转