网信办启动“清朗·整治AI应用乱象”专项行动

近日，中央网信办在全国范围内部署开展为期4个月、分两个阶段推进、聚焦14类突出问题的“清朗·整治AI应用乱象”专项行动，目的在于规范AI服务与应用，推动行业健康有序发展，同时切实保障公民合法权益。

中央网信办有关负责人介绍，此次专项行动分两阶段实施。第一阶段为“清朗·AI应用服务典型违规问题”专项治理行动，重点加强AI技术源头治理。第二阶段为“清朗·整治AI信息内容乱象”专项行动，将依法清理违法不良信息，并对违规账号、MCN机构及网站平台作出处置与处罚。中央网信办强调，各地网信部门要充分把握专项行动对促进AI应用规范运行、维护网民合法权益的重要意义，严格落实属地管理责任，督导网站平台根据整治要点开展对照检查，深入排查问题漏洞，健全长效治理机制，持续提升技术防治能力，确保专项行动落到实处。

据了解，第一阶段将重点整治7类突出问题：一是未按规定履行大模型备案登记义务；二是AI平台安全与审核过滤能力不足；三是大模型训练语料存在安全问题；四是AI数据投毒；五是生成合成内容标识落实不到位；六是借助AI技术实施违法违规活动；七是开源模型安全管理不到位。其中，“未按规定履行大模型备案登记义务”是指未依照《生成式人工智能服务管理暂行办法》要求，向网信部门完成备案登记程序，出现“应备未备”的情形。

第二阶段同样聚焦7类突出问题，重点整治包括：利用AI“魔改”经典内容、生成“数字泔水”，以此制作并发布虚假不实信息；假冒仿冒他人制作发布相关内容；制作发布涉及暴力低俗等不良信息，侵害未成年人权益；借助AI“托管”开展网络水军活动；以及AI产品服务和应用程序存在违规行为。（记者遥歌）