网信办重拳治理AI乱象：删除600万余条违规内容，华为阿里强化监管

IT之家 7 月 6 日消息，中央网信办今日发文称，“清朗 · 整治 AI 应用乱象”专项行动自 2026 年 4 月启动以来，中央网信办聚焦未按规定履行大模型备案登记义务、AI 平台安全和审核过滤能力不足、AI 数据投毒、生成合成内容标识落实不到位等 AI 应用乱象，部署各地网信部门深入推进第一阶段重点整治任务，并开设“涉 AI 应用乱象举报专区”，专项受理公众举报。

在各方共同努力下，第一阶段累计处置违规网站、应用程序、智能体等 AI 产品 1.4 万余款，清理违法违规信息 600 余万条，处置账号 2.6 万余个，下架违规 AI 商品 1300 余个、违规开源数据集 9 个，各项工作取得积极进展。

各地网信部门认真履行属地管理责任，结合实际采取有效监督管理措施。如：

重点网站平台积极履行主体管理责任，有针对性地加强管控。如：

IT之家从公告获悉，下一步，中央网信办将聚焦利用 AI 技术制作发布虚假信息、散播暴力低俗等不良信息、假冒仿冒他人、侵害未成年人权益、从事网络水军活动等突出问题，开展“清朗 · 整治 AI 应用乱象”专项行动第二阶段工作，加大违规账号和机构查处力度，加强 AI 应用重点环节管理，督促平台提升 AI 防治能力，着力维护清朗网络生态，推动人工智能向善向好。