网信办启动“清朗”行动，剑指AI乱象

为规范人工智能服务及应用，推动行业健康发展，维护公民合法权益，中央网信办近日发布通知，将在全国范围内启动为期四个月的“清朗·整治AI应用乱象”专项行动。

据中央网信办负责人介绍，此次专项行动将分为两个阶段。第一阶段，名为“清朗·AI应用服务典型违规问题”专项治理，将集中处理未按要求完成大模型备案登记、安全审核能力薄弱、大模型训练语料安全隐患、AI数据投毒以及生成内容标识不规范等问题，旨在加强AI技术源头管控。第二阶段，即“清朗·整治AI信息内容乱象”专项行动，将重点打击利用AI生成“数字泔水”、制造传播虚假信息、散布暴力低俗内容、假冒身份、侵犯未成年人权益以及从事网络水军活动等行为，严厉清理违法不良信息，并依法处理违规账号、MCN机构及平台。

第一阶段将重点治理七种突出问题：其一，未依规完成大模型备案登记。即未遵循《生成式人工智能服务管理暂行办法》要求，向网信部门进行备案登记，出现“应备未备”的情况。其二，AI平台安全与审核过滤能力不足。模型底层安全能力欠缺，在设计、训练及应用部署过程中，存在价值导向偏差且纠正能力不足。缺乏安全防护机制和有效的审核过滤能力，导致生成违法不良信息，或在生成内容中夹带违法不良信息的云盘及网站链接。其三，大模型训练语料安全问题。训练语料审核把关不严，导致模型训练数据中混入违法不良信息。训练数据