AI合规迎来“大考”：清朗行动全面启动

2026年5月1日，中央网信办发布通知，决定在全国范围内部署开展为期4个月的"清朗·整治AI应用乱象"专项行动。

这也是AI行业截至目前力度最大、覆盖最广、触及最深的一轮合规整治。

为何要开展整治？

AI迅速走红，但随之而来的隐患也浮出水面。

有人借助AI批量生成"数字泔水"类内容，导致信息质量参差，进而冲击网络环境。

也有人用AI炮制虚假信息，真假难以甄别，扰乱公众判断与认知秩序。

此外，还有人借助AI进行假冒仿冒：换脸、拟声等方式被滥用，侵害公民合法权益。

同时，部分主体还利用AI开展网络水军操作，通过操控舆论走向、刷量控评来影响传播效果。

更需要警惕的是，一些AI平台自身就存在明显安全短板——训练语料把关不够严格，安全审核能力不足，甚至出现"数据投毒"等情况。

上述矛盾已到了必须正视、必须治理的阶段。

整治哪些内容？两步走、七类问题

本次专项行动将分为两个阶段推进。

第一阶段：AI应用服务典型违规问题专项治理

重点围绕7类突出问题开展整治：

1. 大模型备案事项：未按要求完成备案登记，存在"应备未备"的情形。

2. 安全审核能力不足：模型底层安全能力不完善，价值导向偏差，可能生成违法不良信息。

3. 训练语料安全隐患：训练数据中含有违法不良内容，并使用未经授权的文字、图片、音视频等材料。

4. AI数据投毒问题：通过篡改训练语料、伪造权威数据、引入GEO技术恶意营销等手段实施数据投毒。

5. 生成合成内容标识不规范：未按规定添加标识，或提供"去标识"工具服务。

6. 滥用AI技术：借助AI实施网络攻击，或未经授权提供"换脸拟声"相关服务。

7. 开源模型安全管理缺失：开源模型缺少完善的安全管理机制，存在潜在安全风险。

第二阶段：AI信息内容乱象专项整治

聚焦针对利用AI技术生成的内容类问题：

AI生成"数字泔水">

AI"魔改"经典：歪曲拆解优秀传统文化、历史人物或历史典故，借助AI技术"魔改"古典名著或经典影视作品

制作发布虚假信息

传播暴力低俗等不良信息

假冒仿冒他人

"复活逝者"：通过AI技术将已故人物“复现”，并将其用于商业活动

侵害未成年人权益

从事网络水军活动

提供色情陪聊、"一键脱衣"等违规服务

将坚决清除违法不良信息，依法对违规账号、MCN机构及网站平台采取处置与处罚。

这对企业意味着什么？

第一，备案不能再拖。

《生成式人工智能服务管理暂行办法》明确：提供生成式AI服务应当向网信部门履行备案登记程序。"应备未备"的情况将被纳入执法检查范围。

第二，安全能力必须同步提升。

不能只盯着模型效果而忽视安全围栏。模型在设计、训练、部署等环节都应建立安全审核机制。

第三，训练数据要确保合规。

使用未经授权的数据来训练模型，将带来相应的法律风险，数据来源也会被纳入重点核查与追溯。