AI内容标识新规落地，剪映等应用因违规受罚

4月28日，“网信中国”发布的一则通报在业内引起了广泛关注：剪映、猫箱、即梦AI因未能有效执行AI生成内容标识规定，受到了依法约谈、责令改正、警告以及对责任人进行从严处理等处罚。 这是自2025年9月《人工智能生成合成内容标识办法》生效以来，首次有知名AI应用因违反规定而受到处罚。 那么，“标识”究竟是什么？为何必须实施？ 简单来说，“标识”就是为AI生成的内容附加一个“此内容由AI制作”的标签。根据法律规定，这种标识分为两种形式。 显式标识，即用户能够直接看到的标记。例如，在视频开头处显示“本视频由AI生成”的文字、在图片角落添加“AI生成”水印，或在音频开始时加入语音提示。其目的是让用户在第一时间就能识别出“这不是真实内容”。 隐式标识，则隐藏在文件元数据中，用户无法直接看到。它包含了内容的生成时间、提供者编码、内容编号等信息。一旦出现虚假信息传播，监管部门便可以通过这些信息追溯到内容的源头——即内容的生成者和传播平台。 这种“显式+隐式”的双重标识机制，是构建AI内容治理技术基础的关键。 那么，为什么要对AI生成的内容进行标识呢？原因很简单：当前AI生成的内容高度逼真，缺乏标识极易混淆真伪。 回顾2025年，甘肃兰州的王浩在社交媒体上发布了一段AI合成的“喜提迈巴赫”视频。多年未联系的老同学看到后，误以为真并向他借钱。王浩事后感慨，如果这段视频晚一个月发布，就不会引发这样的误会，因为没有AI标识，很多人信以为真。 AI的伪造能力已从“一眼就能看穿”发展到“难以分辨”的程度。在福建三明发生女司机被保安掌掴事件后，有人利用AI生成了各种离谱的视频：有握手言和的、有嬉笑打闹的，甚至还有涉及低俗亲密内容的。这些视频在发布时故意隐瞒了AI合成的性质，并捏造了和解的声明。这已不再是简单的“娱乐”，而是对当事人伤口的二次伤害，误导了大量网友。 标识的核心目的在于保障公众的知情权。 你有权了解你所看到的一切，究竟是真人创作的，还是AI生成的。 头部应用的受罚具有警示作用 本次受罚的剪映、即梦AI、猫箱，均隶属于字节跳动旗下。 剪映作为国内领先的视频编辑工具，全球月活跃用户超过8亿。近年来，它不断整合AI功能，如数字人、AI智能口播剪辑、文生图等。如今，这些AI生成的内容需要添加标识，但剪映在落实方面存在不足。 即梦AI是由字节跳动剪映团队开发的AI创作平台，支持文生图、图生图、文生视频、图生视频等多种功能，并依托其自主研发的Seedream、Seedance两大模型，备受业界期待。猫箱则是一个基于豆包大模型的AI互动娱乐应用，允许用户创建个性化的AI角色进行语音互动。 它们的问题究竟出在哪里？网信办的通报已明确指出：“未有效落实人工智能生成合成内容标识规定要求”。简而言之，就是AI生成的内容未能按照规定打上“此内容由AI制作”的标签。 你或许会觉得，这不过是个简单的标签，何必如此“动真格”？但从另一个角度看，标识并非形式主义，而是维护信任的底线。 就像食品包装必须清晰标注成分和保质期一样，AI内容同样需要明确标识。