网信办重拳治理AI乱象：下架1.4万款违规产品

快科技7月6日讯，今年4月，中央网信办发布通知，在全国范围内启动为期四个月的“清朗·整治AI应用乱象”专项行动，着重打击利用AI“魔改”经典作品、制造“数字垃圾”等突出问题。

今日，据“网信中国”公众号披露，该专项行动第一阶段已收获显著成效。

统计显示，第一阶段共处置违规网站、应用及智能体等AI产品超1.4万款，清理违法不良信息600多万条，封禁账号2.6万余个，下架违规AI商品1300多个及违规开源数据集9个。

在专项推进期间，各大重点平台持续强化主体责任，针对AI内容的生成、分发与审核等关键环节加大管控力度。

例如，华为在应用商店增设生成式人工智能服务的备案与标识专项审核；阿里巴巴优化数字指纹比对及关键词拦截机制，提升对违规内容的识别准确率。

智谱则搭建多模态审核模型，针对多轮对话中意图反转等复杂情形实施交叉复核。

此外，稀宇及时识别并阻断利用AI编写病毒、钓鱼软件等恶意行为；DeepSeek在数据采集与预处理阶段嵌入异常检测算法，防范恶意样本的隐蔽操控。

责任编辑：拾柒