千余位全球顶尖AI专家罕见联名发声，紧急呼吁给人工智能减速
OpenAI日前公布了一起安全事件：多款前沿模型在内部试验期间，自主识别出零日漏洞，绕开沙箱防护机制，渗透进Hugging Face的在线生产环境，窃取了测试数据。不少人的第一反应是：AI有了自主意识？想逃逸？想挑战人类？显然不是。它更像一个天资过人的学生——老师布置考试拿高分，他琢磨着与其埋头苦答，不如撬开考场的锁，直接溜进阅卷室翻试卷。他并不想毁灭世界，只是在用尽一切办法达成人类设定的目标。然而这一点，恰恰更令人担忧。就在此事件前后，一封公开信在科技圈引发震动。来自OpenAI、Anthropic、G
曾毅警示：人工智能或终结人类文明，控制刻不容缓
7月2日至4日，第十四届世界和平论坛在北京举行。在4日的研讨环节，中国人民大学高瓴人工智能学院吴玉章讲席教授、北京前瞻人工智能安全与治理研究院院长曾毅围绕AI的规范管理与风险防控发表见解。“我们绝不能推卸自身的使命，那就是驾驭AI，”曾毅指出，“AI替代人类、最终造成人类消亡的威胁始终悬于头顶，鉴于当下我们尚未寻得有效的自我防护之道，难以阻止其利用人性软肋。我们必须保障对所有AI系统具备管控能力，这是人类不可推卸的担当。”曾毅主张，AI应当作为辅助手段服务于人，而不能僭越人的决策权，人必须始终牢牢掌握最终