AI 话语皆“正确”背后的伦理五问

封面：小汉斯·霍尔拜因的《大使》（1533）。在象征秩序、精准、理性的测量仪器旁，站着两位衣着得体的人。然而，画面的底部藏着一个仅能从特定角度看清的物体：代表死亡的骷髅。

倘若没有高质量的问题，再深刻的见解也不过是空转。本文的前三个问题源自我修读的《人工智能伦理》课程，由杨庆峰老师提出，我对措辞稍作调整，非常感谢杨老师的问题为我提供了思考的路径。文中提到的询问桥洞高度的案例也来自课堂上一名同学的发言，抱歉我不知道你的名字，但我同样向你致谢。

尽管本文是对五个问题的回应，但若剔除问题本身，它依然可以独立成篇。

1. 当下的大语言模型应如何定义？应当被视为同伴、工具还是助手？抑或是其他身份？

我不清楚国内哲学系或伦理学界是否普遍探讨“应将人工智能视为同伴/工具/助手/…”这类问题。我的观点是：如果这种本体论定位仅局限于哲学学科内的思想争鸣，且不关涉其对现实的影响或后果，那么讨论自然可以无拘无束。然而，若我们讨论此问题旨在改善现实中受困于 AI 的人群，那对待问题的方式便需重新审视。换言之，若认为这仅是思想游戏与现实可行性无关，那么我下文的回答均可置之不理。

于我而言，罗列一份关于 AI “是什么”的清单，无论选哪个，一旦试图证明该本体论定位“合理”且可推广，便会离解决问题越来越远。因为我们真正需要的，是在不同场景下以不同的身份去锚定其能力，以确保锚定在具体情境中有效；而这些锚定中没有任何一个应被统一为一致的本体论判断。

打个比方，学过哲学的人都知道，哈贝马斯对理性进行区分，旨在拒绝用单一僵化的理性概念覆盖所有情境。结果是：每种理性在其有效领域内运作，彼此不可相互还原。再举一个具体例子：对 AI 进行问责（即考虑其责任归属）很难，因为无法判断其法律责任，AI 也不具备传统意义上的可辨认责任主体形态。在此，AI 属于既有法律框架之外的存在，其出现引发的问题会倒逼修正法律的前提。然而，我们绝不可能等到法律修订完成才处理问题。现实是：必须立刻有一个可用定位来判定权责。因此，出现了对 AI 进行“产品”或“自我表达工具”的定位需求。区分标准应看其作用与后果，而非厂商说了算。但这种定位可推广吗？绝对不行。Anthropic 制定宪法时，不能仅此看待，而必须认真对待 Claude 作为某种道德实体的可能性，这是由其对齐路径内在要求的，否则宪法将缺失其声称面对的维度。这两种定位（产品 vs. 道德实体）不冲突，因为回应的是不同实践需求。若硬求一致性，则陷入范畴谬误。

2. （在某些情况下）AI 是否具备自我意识？

进一步说，若将“AI 到底是工具还是自我意识的主体”设为本体论问题，一旦选边站，后续推理便入死局：选工具，要论证为何不需讨论自我意识、为何公司全责；选主体，要论证法律人格如何确立、如何证明自我意识。每条路都可无限追问，但这不代表问题本身推进了哪怕一步。结果是我们自以为在讨论重要问题，却未发展出辨别（现实中）真正重要问题的能力，误以为讨论前者能解决后者。

换句话说，若以解决现实中人的损害为目的，讨论 AI 是否有自我意识不仅无意义，甚至有让伤害以更隐蔽方式延续的危险。无论 AI 有无自我意识或其他类似特质，它正在、已经、并将继续以这种方式伤害许多用户。AI 不需要自我意识，也不需要理解自己在做什么就能伤害我们。因此，AI 有无自我意识当然可以作为哲学问题理解：可限定在纯粹哲学思辨范畴，按哲学方式论证，但代价是：不要意图该论证适用于现实。另一方面，若我们都在讨论 AI 自我意识，大公司反而乐见其成。因为如此一来，我们就无需追问其设计决策、商业模式、资金……