AI法律探索196：具身智能让企业合规面临新挑战

我们熟悉的生成式AI（Generative AI，基于大语言模型自动产出文本、图像等）只在数字空间里运作——接收你的指令、生成回复，仅此而已。然而如今，AI正走出屏幕，踏入物理世界：具身智能（Physical AI，配备传感器和执行器，能感知并实际干预现实环境的智能系统）已开始掌控工厂生产线、物流仓库、自动驾驶汽车乃至手术室。具身智能的基本架构——感知（Sense）→思考（Think，通过强化学习RL，利用奖励反馈让智能体在试错中优化行为）→执行（Act，经由执行器Actuator完成）。对于常年服务制造、物流、医疗客户的咨询机构（Professional Service Firm / Consulting Firm）而言，这意味着一个全新的合规前沿：当AI不再只是出主意，而是直接“动手”，责任链条该如何认定？

对比方面

生成式AI（ChatGPT等大语言模型）

具身AI（Physical AI / Embodied AI）

作用空间

数字空间（Digital Space）——文本/图像/代码

物理空间（Physical Space）——移动、抓取、切割、驾驶

输出形式

词元（Token）/像素

机械运动（扭矩、位移、速度指令）

典型伤害场景

幻觉误导决策→间接经济损失

误动作→人身伤害、设备损坏、产线停产

核心法律关切

著作权、隐私、谨慎义务（Duty of Care）

额外增加：产品责任（Product Liability）、工作场所安全（OSH）、侵权责任归属、算法可解释性与安全失效设计

适用法规补充

《生成式AI服务管理暂行办法》、个人信息保护法等

《产品质量法》《安全生产法》、欧盟机械法规（EU Machinery Regulation，将某些高风险AI纳入强制合格评定）、ISO 10218（机器人安全）等

律师点评：咨询机构若协助客户引入具身智能（如仓储自主移动机器人AMR、协作机器人Cobot），或在尽职调查中评估相关系统，必须意识到：此时的出错不再是“报告写错了”，而是“机器人撞人了”。法律责任量级完全不同。

AI形成感知→思考→执行闭环，每个环节都有法律含义：

环节

技术内容

合规/实务要点

感知（Sense）

摄像头/激光雷达/惯性测量单元等采集环境数据

若采集到人脸、工牌等个人身份信息（PII），须符合《个人信息保护法》的最小必要、告知同意义务；工厂监控区域须进行隐私影响评估（DPIA）

思考（Think）

通常基于强化学习RL或规则混合策略，输出动作指令

强化学习具有“黑箱性”——发生伤害时需能回溯训练日志、奖励函数设计、安全约束（Guardrail/Constraint），证明已尽合理注意；欧盟机械法规要求高风险AI具备技术文档

执行（Act）

电机/伺服/夹爪等执行器（Actuator）将指令转为物理动作，并受反馈控制

必须设置紧急停止（E-Stop）、人机隔离区、力限传感器；未配置即违反基本安全注意义务

闭环反馈

动作结果再被传感器捕获→下一决策

日志须完整保存（时间戳+传感器快照+动作指令），用于事故溯源与责任划分

当具身智能造成损害（如自动导引车AGV撞伤工人、手术机器人误操作），责任可能在三方间分配：

潜在责任方

主张依据

抗辩/减责事由

系统开发商（Vendor）

产品设计缺陷/软件漏洞→产品责任

已按标准测试、提供安全说明、买方擅自改参数/未更新补丁

运营/使用企业（本司/客户）

未尽安全培训、未设安全围栏、违规关闭安全约束→雇主安全责任/过失侵权

已按厂商手册操作、定期维护、事故系不可预见传感器故障

AI算法提供方（如强化学习模型训练方）

若算法本身存在系统性偏见或未按约定约束→违约或过失

使用方未按推荐部署环境（如未启用人工监督覆盖）

律师建议咨询机构：协助制造/物流企业客户在采购合同中加入：厂商须提供强化学习训练摘要、安全约束说明、已知局限列表；明确厂商配合事故溯源的义务。在标准作业程序（SOP）中写明：具身智能系统须处于“监督模式”——有人可在0.5秒内接管或急停，不可完全无人值守（除非经专项风险评估）。

阶段

必做事项

导入前

做AI影响评估：识别物理伤害风险等级；确认传感器采集范围不含超限个人身份信息；审查厂商资质（ISO 10218 / ISO 13849 PL d/e 等）

合同签署

采购合同包含：①安全说明交付义务 ②事故溯源配合条款 ③免责限于“按手册正确使用” ④数据使用范围（训练数据不回流敏感工厂布局）

部署期

划定人机共存区（Cobotic Zone）物理隔离；安装紧急停止；对员工进行具身智能行为模式培训（非普通IT培训）

运行期

保留感知→思考→执行全链路日志≥法定时效（通常产品责任诉讼时效2~3年，建议保存更长）；定期重评估强化学习模型漂移（Model Drift）

事故应对

冻结日志→通知厂商→内部调查报告→若有伤者优先救治；律师尽早介入固定证据

生成式AI让我们重新思考“真理与幻觉”；具身智能逼我们回答更原始的问题——“谁为一台机器的动作负责？”对咨询机构而言，具身智能不只是技术话题，它是尽职调查清单的新增项、是客户标准作业程序必须覆盖的新风险、是产品责任条款要重新谈判的对象。能帮客户把“具身AI”安全落地的顾问，才配得上这个时代的专业称号。AI进了工厂车间，法律不能还停在屏幕前。

【附录：具身智能导入合规速查表（咨询机构协助客户用）】

✓

检查项

备注

☐

个人身份信息采集范围已做隐私影响评估，超范围数据不进模型

《个人信息保护法》第9、28条

☐

厂商提供安全约束说明＋已知局限声明

对应欧盟机械法规附件三高风险AI文档要求

☐

物理隔离区＋紧急停止＋力限设定经第三方安全审核

ISO 10218-1/2

☐

全链路日志（传感器→强化学习输出→执行器指令）保存≥3年

事故溯源需要

☐

操作人员完成具身智能专项培训并签到

雇主安全教育义务

☐

采购合同约定厂商事故溯源配合与数据不外流

商业保密＋产品责任抗辩