责任不能外包给AI

眼下AI落地最卡脖子的环节，并非技术瓶颈，而是责任归属的制度空白。数千万级别的AI项目，甲方高层迟迟不敢拍板。顾虑的并非技术隐患，而是出了岔子谁来扛。方案汇报结束，会议室里的追问往往是"谁来签字"——全场鸦雀无声。

这份沉默，与其解读为"无人能够负责"，倒不如说是"无人乐意负责"。

AI纵有千般本事，终究只是工具。工具本身不会拍板，拍板的是人。一柄手术刀不会自行剖开患者胸膛，是外科大夫握着它划下去的。同理，一套AI模型不会自行决定投入千万启动一个项目，是人决定采纳它的结论、执行它的建议、摁下确认键的。

然而，AI正演变为一面最顺手的挡板。出了纰漏，研发方声称"按需求编码"，运营方辩称"只是调用模型"，管理层推说"系统自动裁定的"。责任在组织内部循环往复，人人似乎都有说辞，个个似乎都能谅解——可决策，分明是人做出的。

有人将此称作"问责漩涡"——组织架构的设计使得无人能够对后果负责。但这表述仍欠精准。漩涡暗示着某种不可抗力，似乎问责被某股神秘力量吞噬。实际上，问责并非凭空消散，而是被人主动松手的。AI不过是赠予了人们一个体面的托辞，让人得以宣称"这不是我的决策"——然而这句话，从来都站不住脚。

02 人必须在场

当"这不是我的决策，是AI的决策"成为组织内人人能说的套话时，出岔子的根源不在AI，在于人。

实践已给出警示。2024年，不列颠哥伦比亚民事裁决庭判决Air Canada败诉——其官网AI客服给出错误的退费说明，公司以"客服机器人是独立第三方"为由拒担责任，法庭不予采信：你上线了AI，就得为它的产出负责。2025年末，杭州互联网法院审理的"AI幻觉案"，AI向用户许诺赔付10万元，法院驳回诉求，认定AI输出不构成法律层面的意思表示——风险由使用者自担。两起判例，两种走向，但法庭的底层逻辑一以贯之：AI无法代人担责，因为AI不具备责任主体资格。无论让部署方担责还是让使用方自担风险，最终承受后果的，终究是人。

AI技术在演进，程序在迭代，系统日趋繁复，流程愈发冗长——但所有这些技术升级与组织膨胀，都无法撼动一个基本事实：人是一切事务背后应当负责的终极决策者、最终承担者。自动驾驶出了事故，不能甩锅给算法；AI核保拒赔，不能甩锅给模型；项目决策失误，不能甩锅给系统。算法是人选的，模型是人训练的，系统是人上线的，产出是人采纳的。每个环节都有人的考量、人的取舍、人的签章。

症结在于，人正在借AI的复杂性来遮掩自身的失责。系统越繁复，链条越冗长，就越容易宣称"这不是我一个人的决策"；程序越臃肿，流程越曲折，就越容易辩称"我只是链条上的一环"。但复杂性不能充当免责的挡箭牌，流程也不能稀释应尽的责任。

中国已在AI治理的制度建设上迈出步伐。工信部等十部门联合发布了《人工智能科技伦理审查与服务管理办法》，中央网信办与国家发改委也推出了《政务领域人工智能大模型部署应用指引》。但审查等同于问责吗？指引等同于责任归属吗？显然不是。有伦理审查，却缺乏问责机制；有安全责任制度，却没有AI决策失误后的责任划分设计。制度已然起步，但制度的根基应当是不可撼动的准则：AI是工具，人是责任承担者。这一准则不能因技术进步而动摇，恰恰相反，技术越发达，越要筑牢这道防线。

总之，AI最大的隐患并非失控，而是人借AI之名缺席。再强大的工具，也无法代人负责——因为负责的，永远只能是人。