中央网信办部署“清朗·整治AI应用乱象”专项行动

为进一步规范AI服务与应用，推动相关行业健康有序发展，并切实维护公民合法权益，近日，中央网信办发布通知，决定在全国范围内开展为期4个月的“清朗·整治AI应用乱象”专项行动。

中央网信办有关负责人介绍，此次行动分为两个阶段推进。第一阶段为“清朗·AI应用服务典型违规问题”专项治理，重点整治未按要求履行大模型备案登记义务、安全审核能力不足、大模型训练语料安全问题、AI数据投毒以及合成内容标识落实不到位等，着力从技术源头加强治理。第二阶段为“清朗·整治AI信息内容乱象”专项行动，聚焦打击利用AI生成“数字泔水”、制作发布虚假信息、传播暴力低俗等不良内容、假冒仿冒他人、侵害未成年人权益以及从事网络水军活动等行为，集中清理违法不良信息，依法对违规账号、MCN机构和网站平台作出处理处罚。

第一阶段重点整治7类突出问题：

一是未按规定履行大模型备案登记义务。未按照《生成式人工智能服务管理暂行办法》要求，向网信部门完成备案登记程序，存在“应备未备”的情况。

二是AI平台安全与审核过滤能力不足。模型底层安全能力存在缺位，在模型设计训练和部署应用环节，价值导向把关不够、纠偏能力也较弱。部分平台缺少安全围栏机制，审核过滤能力不足，可能导致生成违法不良信息，或在生成内容中夹带指向违法不良信息的云盘及网站链接。

三是大模型训练语料安全问题。训练语料审核把关不严，模型训练数据中可能包含违法不良信息。训练数据