理性AI决策的因果机制解析

理性智能与因果推理

时间

2026年4月28日（星期二）

12:00-13:30

地点

立德楼301

理性智能与因果推理

一辆自动驾驶汽车正在变道，旁边的人类司机或另一辆自驾汽车会预判它的意图并做出反应。一架军用无人机在执行任务，对手会根据对其行动模式的推测调整部署和交火计划。一个交易算法在市场中下单，其他算法会捕捉它的策略信号并抢先行动。这三个场景有着共同的结构：AI行为体的决策会被其他行为体预测，而这些预测本身又会改变该行为体所面对的环境，进而影响该行为体的决策。在这种情境下，一个AI行为体需要理解什么才能做出理性的决策？

本报告的回答是：理性的AI行为体需要理解因果关系，不仅需要理解环境中事物之间的因果关系，还需要理解自身行为如何因果地改变世界。这一回答源于决策理论领域的长期哲学争论。因果决策理论（CDT）主张理性行为取决于行为的因果后果；证据决策理论（EDT）则主张理性行为取决于行为所提供的关于好结果的证据。围绕著名的纽科姆悖论（Newcomb’s Paradox），这两派争论了半个世纪。本报告将指出，这场看似纯粹的哲学争论对AI设计有直接的启示：如果CDT是正确的——这是目前大多数选择理论家的立场——那么AI行为体不仅需要一个关于世界的因果模型（Causal World Model），更需要一个包含自身的因果模型。本报告将其称为“因果世界-智能体模型”（Causal World-Agent Model）。有趣的是，近年来AI研究者从纯粹的技术动机出发，独立得出了类似的结论，可以与上述基于选择理论的分析相互支持和补充。哲学分析与工程实践在此交汇，为我们理解“理性的AI需要什么”提供了一个新的视角。

报告人：王康予

香港大学哲学系助理讲师，伦敦政治经济学院哲学、逻辑与科学方法系博士候选人，香港大学人工智能与人文实验室、澳大利亚国立大学机器智能与规范理论实验室研究员，伦敦大学 2025 年度雅各布森论文奖（Jacobsen Essay Prize）得主，研究方向为决策论、实践理性、人工智能和机器学习哲学、经济学哲学、社会科学哲学与政治学。

对谈嘉宾

刘畅

中国人民大学哲学院副教授，人工智能治理研究院研究员；主要研究方向为分析哲学，维特根斯坦，行动哲学，形而上学。

主持人

刘玮

中国人民大学哲学院教授

人工智能治理研究院院长

主办单位

欢迎各位师生参与！

期待交流出思想的火花！

海报设计：郝伊阳