学术分享 | AI与算法将怎样重塑人类社会的道德框架与决策模式

今日分享文献

三年前公映的影片《流浪地球2》为我们展现了这样一种前景：

当量子计算机550A迭代至550W，人工智能Moss依靠人类赋予它的近乎神迹般的运算能力计算出“拯救人类文明的前提是消灭人类”这一自相矛盾的结论后，悄然启动了人类清除计划。

而面临“太阳熄灭”危机的地球人，由于必须借助能够预判每次危机发生几率的Moss，最终决定将AI技术和自动化装置束缚在领航员空间站上，同时所有人工智能生成的决策都必须经过人类联合政府安理会审批后方可执行。

在科技高速演进的当下，我们不得不深入思考：

当AI进化至具备人类难以企及的“智能”与“决策力”后，人类社会的伦理与秩序，在AI面前将如同面对成年人的婴儿般脆弱。

届时，人类的存在形态与命运难道仅取决于AI的一串代码指令？

人类社会脆弱的道德体系又该何去何从？

来自阿姆斯特丹自由大学的Christine Moser，汉肯经济学院和阿姆斯特丹自由大学的Frank den Hond，以及格勒诺布尔高等商学院的Dirk Lindebaum于2022年在期刊Academy of Management Learning & Education上发表了题为MORALITY IN THE AGE OF ARTIFICIALLY INTELLIGENT ALGORITHMS（人工智能算法时代的道德）的文章，深入探讨了人工智能和算法将如何影响人类社会的道德及判断的问题。

在过去的上千年间，每个人对世界的认知与判断受限于学习能力和所处的社会技术环境。

换言之，人类的判断带有鲜明的主观印记，不同的经历和环境塑造了个人的思维模式与决策能力。

而我们现有的社会秩序和法律条款，也多是基于这种对人类的认知塑造制定而来的——例如刑法中关于“故意/过失”与“意外”的量刑准则，将直接决定被告是面临死刑还是有期徒刑，甚至免于处罚的结果。

然而，随着AI算法的普及，这种判断力可能会被“算法推理”所替代。

所谓算法推理，是指AI算法基于数据运算和规则驱动的理性决策过程，缺少人类判断中固有的道德与情感因素。

论文为我们呈现了三种人类判断与算法推理在决策中的互动模式：

模式一：算法推理主导决策，可能导致道德被算法化。

模式二：人类掌控决策，算法仅作为辅助工具。

模式三：决策由人类判断和算法推理共同构成，力求还原决策环境的真实面貌。

这三种模式对人类所有抉择流程都具有普适性，也意味着随着人工智能算法的广泛应用，不论何种模式，作为人类获取分析和理解内容进行决策的工具，都对人类的主观观点和决策形成有着显著的影响能力。

目前许多阅读软件正在进行“AI升级”，例如微信阅读，已在程序内推出了“AI速读”功能，以满足读者碎片化阅读的需求。

但无论AI如何精准，将作者通过数十万字来思考和沉淀的思想浓缩成数百字的过程也将不可避免地损失大量信息熵，读者从而接收到与原文全然背道而驰的内容。

可以预见到的是，类似的这种对AI工具的依赖，也可能导致人类的判断力逐渐被算法侵蚀，进而影响社会的道德结构。

倘若未来的人们对时事新闻、学校课程甚至法律条文的阅读也都借助AI完成，那他所形成的社会认知和价值观，究竟是人类的，还是算法的？

作者认为，在并不遥远的将来，当人类在面对决策判断和道德困境时，将依赖AI来进行选择，从而导致整个社会的“道德贫乏”，人类道德被算法“本体同化”（Ontological Assimilation）；即人类的判断力可能会被迫适应和转化为算法的计算模式，最终导致道德判断被算法推理所取代。

举例而言，是否该投入大量医疗资源来挽救病危的高龄老人、或是是否要耗费社会资源完善对残障人士的基础设施建设等决策，AI或许将做出摒弃“道德干扰”，只追求效益最大化的抉择。

实际上，作者对于AI对人类社会渗透速度的判断还是过于保守，甚至不用等到将来，当下的算法已经在深刻改变着人类社会的道德形态。

大量应用算法进行内容推荐的社交平台制造的“信息茧房”，为了提高流量和广告阅览量而特意选取宣传热点话题的新闻媒体，都在潜移默化地改变着每个人的道德观念，乃至重塑整个社会的道德形态。

文章中，作者呼吁加强在教育中对道德判断的培养，而不仅仅是教学生如何使用算法进行决策。

应当发展一种综合的教育模式，帮助学生在使用算法的同时，保持和发展其道德判断能力。

在AI的时代浪潮下，整个社会都应该参与到人工智能时代下，如何保持人类道德的独立性和判断力的议题。

我们在享受AI便利的同时，也要意识到其潜在的“使用成本”也是之前三次技术革命无法比拟的。

秉持人工智能是人类的“辅助智能”，人永远作为“上层建筑”的原则，让技术的发展永远“以人为本”，才能保证人类道德和文明的可持续。

不要让人类成为AI圈养的羔羊。