AI+SPC落地：如何用控制图把控AI质量

前两篇文章探讨了ISO 42001的定义及实施路径。今天我们转换视角：针对AI模型本身，能否借助SPC手段来管控质量？

结论是肯定的，并且采用此策略的企业正日益增多。

AI模型部署上线后，其准确率往往会出现漂移；通过控制图进行监测，能够在用户发起投诉前就察觉到异常。

传统SPC主要关注的是：生产制造过程的输出结果是否保持稳定。

AI模型上线运行后，实际上也在不断地生成输出结果：

客服智能体：每日处理多少轮对话？准确率表现如何？

视觉检测系统：每日判定多少张图片？误报率处于什么水平？

每日推荐多少商品？点击转化率是多少？

核心理念：AI模型的输出质量，与生产过程的输出质量，在本质上属于同一类问题——即波动是否处于受控状态。

首先需明确：你打算监控模型的哪项具体指标？

第二步：构建控制图

以每日准确率作为示例：

请注意：此处的σ代表的是准确率的采样误差，而非过程变异——其计算需采用二项分布的置信区间方法。

某工厂利用视觉AI技术检测产品表面瑕疵，人工抽检5%进行复核。

运用I-MR控制图对每日准确率实施监控，第18天时发现连续3点呈下降趋势且1点跌破LCL→ 随即触发异常排查。

调查结论：工厂更换了新批次原材料，导致表面反光特性发生改变，AI模型未能及时重新训练 → 进而引发准确率漂移。

若缺乏SPC控制图：该问题可能要等到客户投诉时才会被察觉。

AI模型监控既无法实时逐笔检测（成本过高），也不能每月仅测一次（发现滞后）。

建议策略：每日抽检 + 每周全量评估

对于高风险场景（医疗诊断 / 自动驾驶）→ 需部署实时熔断机制

传统SPC的控制限通常是固定的（只要过程稳定便保持不变）。

然而AI模型具备学习能力、会进行再训练及版本迭代，因此控制限需随模型版本的更新而重新计算。

有时准确率下滑，并非模型自身的问题，而是生产过程发生了变更（如新材料、新工艺、新供应商）。

→ 此时应基于MSA思路进行数据根因分析，而非直接回滚模型版本。

VDA6.3 P6.5.1 指出：关键过程的监控手段必须具备能力证明——若将AI监控纳入SPC体系，亦可作为过程能力的有力证据。

AI模型的质量管理，并非上线后便置之不理，亦非等到用户投诉才去修复——而是应运用SPC控制图的思维，实施持续监控与提前预警。

三个核心理念：

质量/AI工程师的即刻行动：

从今天开始，检查你所负责的AI应用：是否正在对准确率进行持续监控？

若尚未实施，这应作为AI质量管理的优先改进事项。

声明：本文旨在探讨思路，AI模型监控的具体落地方法请结合企业实际场景进行设计。AI模型准确率的计算须符合相关行业标准（如适用）。

下期预告：VDA6.3 提问表逐条深度解读（P1~P7）——各要素的审查重点、提问技巧及评估方法。