中央网信办启动AI应用专项整治行动

为整顿AI服务与应用，推动行业规范化发展，维护公民合法权益，近期，中央网信办发布通知，在全国范围内组织实施为期四个月的"清朗·AI应用乱象集中整治"行动。

中央网信办相关负责人指出，此次整治行动划分为两个阶段推进。第一阶段为"清朗·AI应用服务违规问题"专项治理，集中治理未依法履行大模型备案登记义务、安全审核机制不健全、训练语料存在安全隐患、AI数据投毒、合成内容标识缺失等问题，加强AI技术源头管控。第二阶段为"清朗·AI信息内容乱象"专项整治，紧盯利用AI技术制造"信息垃圾"、编造传播不实信息、传播暴力低俗内容、冒用他人身份、损害未成年人权益、操纵网络水军等行为，严厉打击违法不良信息，依法依规处置违规账号、MCN机构及网络平台。

第一阶段聚焦七大典型问题：第一，未依法履行大模型备案登记义务。违反《生成式人工智能服务管理暂行办法》要求，未向网信部门申请备案登记，出现"应备未备"现象。第二，AI平台安全防护与审核机制薄弱。底层安全架构不完善，在研发训练及上线运行环节，价值取向偏离、纠错能力欠缺。缺少安全防护屏障、内容审核机制不健全，产出违法违规内容，或在输出内容中嵌入违规信息的网盘及网站链接。第三，大模型训练数据安全隐患。训练数据审查不严格，训练素材包含违法违规内容。训练数据来源不合规