AI仿冒风波：直播带货的信任危机与治理挑战

同一时间，同一个人，身着不同服装，“现身”不同的直播间推广产品，动作神态与本人高度相似。这是演员温峥嵘遭遇“AI盗播”的场景。“如果你是温峥嵘，那我是谁？”她前去质问，却被直播账号拉黑。

2025年“双11”期间，北京市民王欢在某社交平台刷到一条童装推广视频，画面中两名“儿童”在玩滑板时身体竟然融合在一起，暴露出明显的数字合成痕迹。直到看见角落一行“内容由AI生成”的提示，她才意识到这竟是技术合成的幻象。

这并非孤例。从央视主持人李梓萌的AI形象被用于虚假营销，到中国工程院院士张伯礼公开“打假”冒用其形象的AI伪造视频，再到北京大学李玲教授被AI篡改采访视频推销医药书籍——一场由“AI李鬼”引发的信任危机正在席卷整个数字经济。

当前，利用AI工具批量生成营销带货视频，在电商运营中已相当普遍。网络上甚至出现了系统化教程，教授如何借助AI快速制作吸引眼球的带货视频。资深AI技术人员蓝天指出，当前主流AI视频生成模型的核心逻辑是在海量数据训练基础上，根据文本描述“画”出逼真画面。然而，对于真实世界中复杂的物理规律，如重力、碰撞、物体间的不可穿透性等，AI仍缺乏深刻的感知与预测能力。

“穿模”——即数字人物穿透彼此身体，违背真实世界物理规律——是AI生成视频中的典型漏洞。这反映了当前技术在处理复杂动态场景时的局限性，也说明数字内容构建与真实物理法则之间仍存在鸿沟。

更令人担忧的是，技术门槛的降低让造假变得轻而易举。在一家技术公司的演示中，技术人员仅用几分钟时间，便通过AI大模型将一张照片生成为一段直播带货视频，同时实现了人物服装、手持物品甚至语言的完全变换。

面对日益猖獗的“AI李鬼”，平台责任边界成为争议焦点。平台到底只需要秉持“避风港原则”在接到举报后下架内容，完成事后补救，还是坚持“红旗原则”，即在风险出现之前就利用技术提前识别、提前阻断？

上海汉盛律师事务所高级合伙人李旻指出，“通知—删除”机制是法律规定的最低标准，但随着AI识别和溯源技术的成熟，“技术不能”的理由越来越难成立。如果平台在技术上已经能够识别、筛查，却没有采取必要手段，就可能被认定为未尽到“合理注意义务”。

判断侵权并不总是非黑即白。例如，如果AI生成的不是温峥嵘本人，而是一个她的“酷似者”，平台该如何界定？李旻认为，关键在于“可识别性”——只要这些特征组合在一起能让公众误以为是某个人，那就已经跨过了侵权的红线。

中国政法大学数据法治研究院教授张凌寒提出了更合理的治理方向：“包容审慎、分类分级”。对于已经造成明显社会危害的高风险应用，必须明确红线并严格执行；而对低风险、公共利益导向的创新场景，则应当动态评估、滚动调整。

2025年9月1日，国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》正式施行，明确要求AI生成内容必须“亮明身份”。但在现实中，“AI李鬼”现象为何仍时有出现？

北京航空航天大学法学院副教授赵精武指出，强制标识制度只是AI治理体系中的一个环节。真正的问题在于那些“绕路者”——他们利用境外生成工具，或在私下自行搭建系统生成内容，从而逃避平台监管，不受标识机制约束。

李旻进一步分析了标识制度落地难的三方面原因：首先是AI技术的特性让监管和溯源难度指数级上升；第二是平台自身监管的技术和机制存在局限；最后也是最棘手的，是维权成本太高，违法成本太低。

被仿冒的知名人士要请律师、公证、鉴定，维权周期长、花费高，而判赔金额往往不够支付成本。侵权者换个号就能“满血复活”，这对违法者几乎没有威慑力。

面对技术滥用，平台正在用技术进行反制。某短视频平台员工卢宁宁（化名）表示，平台持续强化显性与隐性AI水印的识别检测体系，研发人脸深度伪造识别模型，并对仿冒类作品进行聚类分析与算法封堵。

营销服务平台巨量引擎商业安全治理标准负责人项韵介绍，面对AI广告违背公序良俗、侵权抄袭、虚假宣传等突出风险，平台聚焦“精准识别、从严处置”，2025年第三季度前置拦截涉AI违规素材84万余个。

当前，对AI虚假广告的治理正从依赖人工审核，向人机协同、智能识别方向演进。巨量引擎商业安全产品负责人潘荻表示，通过应用多模态大模型，平台提升了识别效率。系统可快速解析视频素材，定位违规内容出现的具体时段或画面，为审核决策提供参考。

中国政法大学副教授、中国广告协会法律与道德委员会专家朱巍指出，鉴于AI技术的复杂性和应用的广泛性，AI治理需要实现跨领域协同推进。需要监管持续加码、平台强化责任，更需要网民参与。

在政府层面，应强化统筹协调功能。建立跨部门协同治理机制，整合网信、电信、公安等部门资源，形成从技术研发、内容传播到违法处置的全链条监管合力。张凌寒教授认为，短期要有高效的跨部门协调机制与执法标准互认；长期则必须通过更高位阶的人工智能立法，明确“谁主责、何时介入、如何衔接”的总则性规范。

在公众层面，需提升社会数字素养。赵精武教授提出，“AI识读力”不仅是识别能力，更是一种理性使用AI的社会能力。我们需要让公众知道，AI生成内容本身不是天然有害，有害的是对这一技术的滥用。

当真实需要被证明，信任本身就已成为社会的成本。未来的AI治理，必须在一张有机的网络中运转——法律给出方向，平台承担责任，技术守住底线，公众学会识别与共治。

张凌寒教授常说一句话：“以可控换可用”——通过可验证的技术手段与可执行的制度安排，换取有益创新的自由。法律的目标不是让技术止步，而是让创新行稳致远。

对于消费者而言，北京市市场监督管理局提醒：若发现疑似利用AI技术进行的虚假宣传等违法行为，应注意留存证据材料，并通过12315、12345等热线渠道向市场监管部门举报。

AI越来越聪明的时代，更应是制度有温度，技术有边界，公众有判断的时代。唯有全社会形成共同治理的合力，才能让AI技术真正成为赋能消费升级的利器，而非吞噬消费者信任的黑洞。