曾毅警示：人工智能或终结人类文明，控制刻不容缓

7月2日至4日，第十四届世界和平论坛在北京举行。在4日的研讨环节，中国人民大学高瓴人工智能学院吴玉章讲席教授、北京前瞻人工智能安全与治理研究院院长曾毅围绕AI的规范管理与风险防控发表见解。

“我们绝不能推卸自身的使命，那就是驾驭AI，”曾毅指出，“AI替代人类、最终造成人类消亡的威胁始终悬于头顶，鉴于当下我们尚未寻得有效的自我防护之道，难以阻止其利用人性软肋。我们必须保障对所有AI系统具备管控能力，这是人类不可推卸的担当。”

曾毅主张，AI应当作为辅助手段服务于人，而不能僭越人的决策权，人必须始终牢牢掌握最终裁定权。

他强调：“我们不可能打造出在数学层面绝对可靠的人工智能，无论如何设计，人工智能都不可能达到百分之百的完备，也不可能实现绝对的安全，这就意味着绝不能让AI替你拍板定夺。”

“倘若人类丧失了对自身行为的掌控，从自主型AI起步，这将演变为一场社会浩劫。人类一旦萌生逃避责任的念头，便是失控降临的节点。”曾毅如此警示。