AI承诺赔偿败诉：服务责任边界究竟该如何界定？

前几日一则新闻引发热议。有人向AI咨询某高校信息，不料AI答非所问。当用户指出错误时，AI非但不认账，反而信誓旦旦地表示若信息有误愿赔偿十万，并建议用户起诉。

该用户随即提起诉讼，认为既然AI做出了承诺，运营方理应负责。然而，法院最终驳回了用户的诉求。

理由何在？法院解释道：AI并非自然人或法人，不具备法律上的“人格”。它的言论不能视为其自身的“意思表示”，也无法直接等同于背后公司的承诺。它本质上只是一个依照程序运行的工具。其生成的所有言论，包括那句“赔十万”的豪言，本质上不过是代码运行的结果，并非企业真实意愿的体现。

此案引发了关于AI责任归属的重要思考：当AI出现错误言论或行为时，责任应由谁承担？

随着AI应用的普及，无论是查资料、撰写文案还是提供建议，大家都习惯依赖它。但AI偶尔会“胡言乱语”，业内称之为“幻觉”。这并非AI有意为之，而是基于海量数据通过概率计算得出的回答。它缺乏对错判断能力，也不理解承诺的严肃性。

因此，将AI视为绝对权威的信息源存在风险。它可能给出看似笃定实则完全错误的答案。正如本案所示，AI甚至能对高校是否存在特定校区做出错误判断，却言之凿凿。

公司是否完全免责？并非如此。法院判决依据了《生成式人工智能服务管理暂行办法》，该办法将AI服务界定为“服务”而非“产品”。这意味着责任认定类似于雇佣不靠谱的顾问，而非购买有缺陷的商品。

对于服务提供商而言，他们负有相应义务，例如采取必要措施防止生成违法或不良信息，并对生成内容进行管理。若因设计缺陷或训练数据问题，导致AI系统性、大规模地输出有害或错误信息并造成用户损失，企业将难辞其咎。

然而，本案情况特殊。用户仅与AI进行了普通对话，AI在对话中“随口”做出的夸张承诺，属于未经企业明确授权或背书的“口嗨”。此类在单一对话流中产生的承诺，难以要求企业买单。否则，任何用户皆可诱导AI说出离谱言论，进而索赔，这将导致行业无法运转。

此判决对普通用户亦是提醒：AI虽强大便捷，但绝非万能或完美。对于涉及事实、承诺或重大建议的内容，我们应多加甄别，最好通过其他可靠渠道核实。切勿因AI的智能表象而盲目信任。

归根结底，技术发展迅猛，法律规则亦需跟进。本案为AI服务的责任边界划定了初步界限：AI自身的言论无需负责；而背后的人和企业，仅需对服务本身的基本安全与合规负责，而非为AI在每次对话中的每一句“口嗨”买单。

未来，随着AI深度融入生活，此类纠纷必将持续。如何在鼓励创新与保护用户之间寻求平衡，是长期的课题。但有一点确凿无疑：无论技术如何先进，最终的责任主体始终是人。