中央网信办重拳整治AI乱象，首阶段清理逾万款违规应用

"清朗·整治AI应用乱象"专项行动自2026年4月启动以来，中央网信办聚焦大模型未备案、平台安全与审核能力薄弱、AI数据投毒、生成内容标识缺失等突出问题，部署各地网信部门推进第一阶段整治任务，并设立"涉AI应用乱象举报专区"，专项受理公众举报。在多方协同下，第一阶段累计处置违规AI产品1.4万余款，清理违法信息600余万条，封禁账号2.6万余个，下架违规AI商品1300余个、违规开源数据集9个，整治工作取得显著成效。

各地网信部门切实履行属地监管职责，因地制宜强化管理。北京网信办构建"平台自查+常态巡查+技术筛查+线索核查"联动机制，及时下架违规应用与账号；上海网信办按平台类型细化标准，指导优化举报流程并发布治理公告；浙江网信办从模型审核、训练语料安全、数据投毒等维度，开展语义判断优化与高频回归测试；江苏网信办开设专项举报窗口，收集AI投毒、未标识生成内容等五类违规线索并快速处置；广东网信办建立多部门协同监管体系，综合运用技术巡查、人工复核、现场督导与约谈惩戒，实施全链条治理。

重点平台积极落实主体责任，强化技术管控。华为在应用商店新增生成式AI服务备案与标识审核；阿里巴巴升级数字指纹比对与关键词拦截，提升识别准确率；智谱搭建多模态审核模型，应对多轮对话意图反转等复杂场景；稀宇精准识别并阻断AI编写病毒、钓鱼软件等恶意行为；DeepSeek在数据采集与预处理阶段嵌入异常检测算法，防范恶意样本隐蔽操控。

下一步，中央网信办将聚焦AI制作虚假信息、传播暴力低俗内容、假冒他人身份、侵害未成年人权益、操纵网络水军等重点问题，启动"清朗·整治AI应用乱象"第二阶段行动，加大违规账号与机构查处力度，强化关键环节监管，推动平台提升AI治理能力，切实营造清朗网络空间，促进人工智能健康有序发展。