中央网信办启动AI应用乱象整治行动

为规范人工智能服务应用，推动行业健康发展，维护公民合法权利，近日中央网信办发布通知，在全国范围内启动为期4个月的"清朗·整治AI应用乱象"专项治理工作。

中央网信办相关负责人指出，此次专项治理分为两个阶段实施。第一阶段为"清朗·AI应用服务典型违规问题"专项整治行动，重点解决未按要求完成大模型备案登记、安全审核能力欠缺、大模型训练语料安全、AI数据投毒、生成合成内容标识执行不力等问题，加强AI技术源头管控。第二阶段为"清朗·整治AI信息内容乱象"专项治理行动，重点针对运用AI技术制造"数字泔水"、制作传播虚假信息、散布暴力低俗等有害信息、冒用仿冒他人身份、损害未成年人权益、从事网络水军活动等问题，坚决清除违法有害信息，依法处理违规账号、MCN机构和网站平台。

第一阶段重点治理7类突出难题：一是未按要求完成大模型备案登记。未依据《生成式人工智能服务管理暂行办法》要求，向网信部门提交备案登记手续，出现"应备未备"现象。二是AI平台安全和审核过滤能力欠缺。模型基础安全能力缺失，在设计训练及部署应用环节，价值导向存在偏差、纠错能力不足。缺少安全防护机制、审核过滤能力不足，产生违法有害信息，或在生成内容中包含违法有害信息的云盘及网站链接。三是大模型训练语料安全难题。训练语料审核把关不严，模型训练数据存在违法有害信息。训练数据