国家网信办重拳整治AI乱象，剪映等平台因标识违规受罚

2026年4月28日，国家互联网信息办公室对外公布，近期网信部门在工作中发现，“剪映”“猫箱”APP以及“即梦AI”网站在落实人工智能生成合成内容标识规定方面存在不足，违反了《中华人民共和国网络安全法》《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等相关法律法规。

国家互联网信息办公室已责成相关属地互联网信息办公室，依法对上述网站平台采取了约谈、责令整改、发出警告以及从严处理相关责任人等一系列处罚措施。

国家网信办的负责人强调，各网站平台必须坚守法律底线和红线，切实履行人工智能生成合成内容标识的相关规定。

据了解，为了规范AI服务和应用，促进产业的健康有序发展，并切实保障公民的合法权益，中央网信办近期发布通知，在全国范围内启动为期四个月的“清朗·整治AI应用乱象”专项行动。

中央网信办相关负责人介绍，本次专项行动将分两个阶段进行。第一阶段是“清朗·AI应用服务典型违规问题”专项治理，重点打击未按规定完成大模型备案登记、安全审核能力欠缺、大模型训练语料安全隐患、AI数据投毒以及生成合成内容标识落实不到位等问题，旨在从源头上加强AI技术治理。第二阶段是“清朗·整治AI信息内容乱象”专项行动，将聚焦利用AI技术制造“数字泔水”、发布虚假信息、传播低俗暴力内容、假冒仿冒他人、侵犯未成年人权益以及从事网络水军活动等问题，坚决清除违法不良信息，并依法处置违规账号、MCN机构和网站平台。

第一阶段的整治重点包括七个突出的问题类别：一是未履行大模型备案登记义务，即未依照《生成式人工智能服务管理暂行办法》的要求向网信部门完成备案登记程序，存在“应备未备”的情况。二是AI平台安全与审核过滤能力不足，表现为模型底层安全能力缺失，在设计、训练及部署应用过程中价值导向存在偏差且纠偏能力不足。缺乏安全防护机制和有效的审核过滤能力，导致生成违法不良信息，或在生成内容中包含指向违法不良信息的云盘及网站链接。三是大模型训练语料安全问题，即训练语料的审核把关不严，模型训练数据中混入了违法不良信息。训练数据