AI安全伦理笔记：大模型供应链风险详解

供应链。初看这十大风险，我困惑的是供应链漏洞，难道真如字面所示？是指在大模型设计与运行中，因外部方提供的各类组件引发的隐患吗？让我们深入探讨。 供应链（供应链风险 / 供应链漏洞）【注：本书微信读书版为2024年1月英文原版，人民邮电出版社的中文译本预计2025年12月出版，因此书中列出的十大风险与上述OWASP 2025版十大风险存在差异。两者均包含供应链，下面将同时引入本书及OWASP官网最新清单的解释。】 供应链风险聚焦于人工智能供应链引发的安全隐患，涵盖：软件漏洞、第三方训练模型的安全隐患、训练数据的安全隐患、大模型插件扩展的隐患以及不可溯源问题。 具体实例包括：第三方软件包漏洞，特别是未维护的开源组件；利用受损的预训练模型进行微调；训练中使用被污染的众包数据（注：“众包数据”指通过互联网向社会公开募集、由海量普通大众自发提供或生成的数据）；过时的模型；软件或数据许可协议的差异；隐私条款不明确。 防范措施： 1-仔细检查数据