教皇新通谕警示：算法无权主宰人类命运
当战争起因可被算法触发，
当更多白领忧虑遭 AI 取代，
当孩子过早沉溺于算法推荐……
AI 引发的难题，已非仅属科技界范畴。
5 月 25 日，教皇利奥十四世颁布其首篇 AI 通谕《伟大的人性》。
在这份长达四万两千三百字的文献中，他发出了极为罕见且强烈的警示：
“任何算法，均无权裁定人的生死。”
AI 不可裁决生杀大权
其中，最严厉的警告聚焦于战争领域。
他写道：“任何算法不应拥有决定人生死的权力。”
“自主武器系统日益易部署，致使战争更显‘可行’，且愈发脱离人类掌控。”
故而，他呼吁对 AI 武器实施“最严苛的伦理约束”，并警示人类正滑向一种“视和平为冲突间短暂停歇”的险恶文化。
此为迄今全球关于 AI 军事化最坚定的公开宗教声明之一。
从工业革命迈向 AI 革命
《伟大的人性》的问世时机绝非巧合。
教皇利奥十四世特意选于 5 月 15 日签署文件——恰逢教皇利奥十三世于 1891 年发布《Rerum Novarum》（《新事》通谕）135 周年。
后者诞生于工业革命浪潮，被视为现代天主教社会思想的基石，核心关切的是工业化时期劳动者所受的剥削。
而在利奥十四世眼中，AI 正掀起新一轮“工业革命”。
他在通谕中强调：
“工作不仅是谋生手段，更是人成熟、成长与实现自我的必经之路。”
因此，他特别指出：
“对更高利润的追逐，绝非系统性牺牲就业岗位的借口。”
在他看来，一个高度技术化、却仅惠及少数人的就业社会，终将导致“物质进步与人类退化并存的悖论。”
AI 不应仅由巨头定义
整份通谕的核心议题之一，是反对 AI 权力过度集中。
利奥十四世多次警示，AI 不应“掌控在少数人手中”。
他所忧虑的，不单是技术本身，更在于：
信息控制权
财富集聚
平台霸权
政治影响
数据垄断
正被极少数大型科技企业迅速把持。
他强调：
“仅监管 AI 远远不够。”
真正所需的是“解除 AI 武装（disarming AI）”。
此处“解除武装”，并非拒绝技术，而是“防止技术开始主导人类。”
他特别指出：
“即便拥有更道德的 AI 亦不足够，若这种‘道德’仅由少数人定义。”
Anthropic 联合创始人
现身梵蒂冈讲台
值得注意的是，此次发布会不仅关乎宗教界。AI 公司 Anthropic 联合创始人 Christopher Olah 亦与教皇同台出席。
这一安排被广泛视作“科技与宗教正式对话”的象征性时刻。
利奥十四世表示，其观点源于长期与科学家、工程师及政治领袖的交流。
他特别提及 Christopher Olah，并期望双方能“共同探寻人工智能时代的人类道路。”
Christopher Olah 虽非天主教徒，却在现场罕见地公开承认：AI 公司内部的激励机制，确实可能与“行善”产生冲突。
“像我们这样的企业，运行于一套激励机制与现实约束之中，而这些机制有时会与做正确之事相悖。”他说，“我们需要那些不被利益机制扭曲的道德声音。”
他甚至表示：
“今日仅是开端——这是科技创造者与那些能洞察我们内部盲点者之间长期合作的起点。”
AI 正改变
劳动、教育与儿童成长
除战争议题外，这份通谕还深入探讨了 AI 对劳动、教育与年轻一代的影响。
利奥十四世呼吁：
为受 AI 冲击的劳动者提供保护与再培训；
在教育中培养学生对 AI 的批判性思维；
阻止儿童接触暴力、色情化及虚假的 AI 生成内容；
防范算法对创造力与独立思考能力的侵蚀。
他援引心理学与精神医学研究指出，儿童在缺乏监管下过早接触数字设备与社交媒体，将影响：
睡眠
注意力
情绪控制
人际关系
并可能引发“悲剧性后果”。
这不仅是技术问题，
更是文明议题
过去数十年，互联网改变了信息，而 AI 开始重塑“人本身”。
AI 最危险之处，不在于变聪明，而在于让人日益变得不重要。技术虽在进步，但“人”正被系统边缘化。
整份通谕最值得关注之处，或许在于：
教皇利奥十四世并未将 AI 视为单纯的技术议题。
他真正探讨的，其实是：
当 AI 愈发强大时，人类社会究竟应如何定义：
人的价值
劳动的意义
权力的边界
战争的底线
技术与文明的关系
他明确表态：
“技术本身并非人类的敌人。”
“呼吁谨慎、严格评估，甚至在某些时刻放缓 AI 部署，并不意味着反对进步。”
这是一种“对整个人类家庭负责任的照护。”
梵蒂冈正重返
全球 AI 治理讨论
事实上，自成为教皇以来，利奥十四世已多次公开论及 AI 问题。
他在就任次日便表示，教会必须回应 AI 对“人的尊严、正义与劳动”带来的挑战。
此后，他在大学演讲、国际数学日活动及中东访问期间，均多次谈及 AI 风险。
就在通谕发布前夕，梵蒂冈还宣布成立专门委员会，研究 AI 带来的伦理与社会挑战。
而这份《伟大的人性》，则标志着梵蒂冈正正式迈入全球 AI 治理与伦理讨论的核心舞台。
它未必能直接改变硅谷科技公司的商业逻辑，但它正尝试回答一个日益重要的问题：当 AI 开始重塑世界时，人类究竟还想成为何种文明。
相关阅读
AI 的下一阶段：从算力革命到伦理治理，2025 年的五大趋势图景