网信办启动专项行动，整治人工智能应用乱象

针对人工智能“盗用面容”、数据投毒以及“托管”等乱象，相关部门将展开重点整治。据“网信中国”4月30日消息，中央网信办近日已下发通知，计划在全国范围内启动为期四个月的“清朗·整治AI应用乱象”专项行动。

该行动将分两个阶段推进。第一阶段聚焦“清朗·AI应用服务典型违规问题”专项治理，第二阶段则着力于“清朗·整治AI信息内容乱象”专项治理。

中央网信办相关负责人指出，各地网信部门需切实承担属地管理职责，督导各网站平台对照整治要点，深入开展自查自纠，全面排查潜在问题与漏洞，建立健全长效治理机制，提升技术防范能力，确保专项行动取得切实成效。

随着生成式人工智能技术的迅速普及，围绕“换脸”、“换声”等技术的滥用现象日益凸显，已成为社会各方关注的焦点。

针对信息内容领域的乱象，专项行动将重点整治利用AI技术“魔改”经典、炮制“数字垃圾”等行为。具体涵盖：歪曲解读优秀传统文化、历史人物或典故，滥用AI技术篡改古典名著或经典影视作品，植入低俗暴力内容，恶搞经典作品的精神内核、颠覆重要人物形象；以及批量生成发布逻辑混乱、内容空洞，或带有错误价值观、扭曲文化认知等不良导向的“数字垃圾”类信息。

对于“假冒仿冒他人”的问题，专项行动明确了禁止红线：利用AI“换脸”“换声”技术假冒公众人物发表不实言论，欺骗网民并借此营销牟利，或生成合成含有攻击、抹黑、贬损他人的内容；未经授权生成合成与公众人物的合影、亲密照等图片或视频；不当使用AI技术“复活逝者”，滥用逝者个人信息。

同时，专项行动也重点强调了利用AI“托管”技术从事网络水军活动的问题。例如，部分机构或个人通过AI“托管”技术运营账号，模拟真人批量注册和管理社交账号，批量生成发布低质、同质化的文案。此外，行动还将整治非法买卖账号、使用AI群控软件和社交机器人刷量控评、制造虚假流量数据、炮制虚假舆论热点等行为。

针对AI应用服务典型违规问题的专项治理，监管重点将前移至技术源头，围绕AI模型的开发、训练及应用环节的合规性与安全性展开整治。

首要任务是大模型的备案登记义务。专项行动将严厉查处未按照《生成式人工智能服务管理暂行办法》规定向网信部门履行备案登记程序等“应备未备”的情形。

在数据治理方面，行动将聚焦AI数据投毒问题，重点整治通过篡改训练语料、伪造权威数据、使用生成式搜索引擎优化（GEO）技术进行恶意营销等方式实施数据投毒的行为。此外，炒作、传授AI数据投毒方法，或在电商平台销售相关教程及工具，以及在模型生成回答过程中对引用来源缺乏交叉验证和风险提示机制、未标注引用信息链接等情况，也属于整治范围。

另外，在生成合成内容标识的落实方面，多类问题将被处理。具体包括：未落实《人工智能生成合成内容标识办法》及相关强制性标准要求；未对生成合成内容添加标识，或标识的大小、位置、透明度不符合规范；未履行跨平台隐式标识互识互认义务，未按要求在生成合成内容周边添加显著提示标识，或对生成合成内容的识别能力不足；存在教授去除AI标识的教程信息、提供违规“去标识”工具服务等。