网信办启动专项行动，严打AI乱象

据“网信中国”公众号消息，为进一步规范人工智能服务和应用，促进相关行业健康有序发展，切实保障公民的合法权益，近日，中央网信办发布通知，将在全国范围内启动为期四个月的“清朗·整治AI应用乱象”专项整治行动。

中央网信办相关负责人指出，此次专项行动将分为两个阶段进行。第一阶段是“清朗·AI应用服务典型违规问题”专项治理行动，主要针对未按要求完成大模型备案登记、安全审核能力不足、大模型训练语料安全隐患、AI数据投毒以及生成合成内容标识执行不到位等问题，旨在从源头上加强对AI技术的管理。第二阶段是“清朗·整治AI信息内容乱象”专项行动，将重点关注利用AI技术制造“数字泔水”、散播虚假信息、传播暴力低俗等不良内容、冒充他人身份、侵犯未成年人权益以及组织网络水军等行为，坚决清除违法不良信息，并依法对违规账号、MCN机构及网站平台进行处理处罚。

第一阶段将重点整治七种突出问题：一是未按规定履行大模型备案登记义务。即未依照《生成式人工智能服务管理暂行办法》的要求，向网信部门完成备案登记程序，存在“应备未备”的情况。二是AI平台安全和审核过滤能力不足。表现为模型底层安全能力缺失，在模型设计、训练及部署应用过程中，价值取向出现偏差且纠偏能力不足。同时，缺乏安全防护机制，审核过滤能力薄弱，导致生成违法不良信息，或在生成内容中夹带违法不良信息的云盘及网站链接。三是大模型训练语料安全问题。具体指训练语料的审核把关不严，导致模型训练数据中混入了违法不良信息。训练数据