为何明知AI产品有缺陷仍被广泛使用？

“AI产品存在缺陷且充满风险。我们为何还要使用它们？”

（大中网/096.ca讯）加拿大《环球邮报》刊登了公共政策智库Shield Institute执行董事Vass Bednar的一篇评论文章。他指出，加拿大政府近期因存在安全隐患而召回了一款Tim Hortons的陶瓷甜甜圈杯，该产品在接触热饮时可能破裂。

依据《加拿大消费品安全法》（CCPSA），被召回的产品禁止再次流通、销售，甚至免费赠送。例如，一旦咖啡机存在爆炸风险，或婴儿床存在坍塌隐患，它们会被立即下架并伴随广泛的公众警示。

然而，这种针对实体消费品经济的监管逻辑，在数字经济领域却显得力不从心。鲜为人知的是，现行法案并不适用于数字产品，其管辖范围仅限于实体商品及其零配件和衍生品。

这意味着，加拿大政府可以召回在正常使用下会破裂的陶瓷杯，却无法有效应对那些每天被海量使用的数字产品。当大型人工智能模型被推向市场，被定位为“助手”却频繁输出错误信息并自信地提供不准确的建议时，这种监管上的漏洞就显得尤为突出。

更令人担忧的是，这些科技公司其实清楚地知道其系统运作的不可靠性。他们在用户协议中对潜在错误的警告，已经充分证明了这一点。

人工智能公司追求的是通过大规模市场占有来获取巨额利润，却不愿意承担产品故障本应带来的基本责任。而我们，则在不经意间助长了这种状况：一方面轻易地将AI产品融入日常生活，另一方面则默认了生产和使用AI的公司可以规避最基本的尽责义务。

尽管如此，我们却不断被告知，这些尖端技术代表着创新。我们也被灌输一种观念，即掌握这些系统是未来工作的关键。然而，现实情况是，人工智能反而增加了额外的工作量——需要更多的核查、校对，以及处理随之而来的噪音。所谓的生产力提升，与其说是工业革命式的突破，不如说更像是一场精心策划的骗局。

我们其实已经见识过有效的问责机制应当如何运作，但它并未得到持续的落实。

例如，加拿大航空公司（Air Canada）的聊天机器人曾误导乘客莫法特（Jake Moffatt）以为他有资格获得丧亲折扣票价，用于2022年从温哥华返回多伦多。然而，航空公司最终拒绝兑现此优惠，尽管承认聊天机器人犯了错，因为该优惠并不符合加航的官方政策。

2024年2月，卑诗省小额索赔法庭裁定加航败诉，并命令其退还莫法特800多加元，这笔金额相当于他最初有资格获得的退款。

此案确立了一个本应不言而喻的原则：公司不能仅仅因为错误信息源自聊天机器人而非人工，就推卸责任。“聊天机器人是一个独立法律实体，对其行为负责”这种推诿之词，不应成为有效的辩护理由。

当前，一些引入AI辅助的公司，在提醒用户谨慎对待AI建议的同时，也在试图规避责任。微软在去年秋季更新其使用条款时明确指出，Windows 11内置的AI助手Copilot“仅供娱乐”。随后，在Excel中推出新Copilot功能时，微软也告诫用户，若追求准确结果，最好不要依赖它。

美国零售商Target也“贴心”提示消费者，若购物助手出错，责任仍由消费者承担。更具讽刺意味的是，OpenAI首席执行官奥特曼（Sam Altman）最近在一段流传的Instagram视频中承认，ChatGPT甚至无法正确使用一个简单的计时器。

目前来看，人工智能显然正在使问题变得更糟、更荒诞。AI随意引用的信源正在损害学术的严谨性；律师开始引用根本不存在的案例；会计巨头德勤甚至被指控在一份价值百万的报告中使用了AI生成的内容。聊天机器人甚至可能助长妄想型思维。（相关阅读：如果法官借助使用人工智能断案，法庭审判还能公正吗？（评论））

然而，我们却逐渐将AI的“幻觉”视为其正常反应，而不是将其以及可能造成的后果视为危险的缺陷。

数字经济的“快速行动、打破规则”模式曾一度被视为值得称赞的商业模式，并长期受到社会的宽容。但如今，AI的“幻觉”已渗透到公共和经济生活的诸多角落，这种宽容已难以为继。

我们究竟是为了盲目追求生产力，而允许一整类有缺陷的产品渗透到日常生活中，却不对其施加最基本的安全与问责要求，还是应当对其进行必要的约束？

显而易见，尽管这些人工智能模型崭新，却并不可靠。那么，我们为何还要继续将这些不稳定的AI系统嵌入办公室、课堂、医院和公共服务体系，好像它们对我们造成的损害仅仅是“技术发展的正常代价”？

如果我们不打算将人工智能视为产品来监管，那么至少也应通过加拿大竞争局（Competition Bureau）的虚假营销标准，来规范科技公司在推广这些产品时的宣传言论。但如果我们认为做到这些就足够了，那实际上是在自欺欺人。

基于深度学习的人工智能技术（LLM）看似无害，与一个易碎的杯子相比似乎差别不大，但其潜在风险却可能溢出到现实世界，影响更多的人。