低质又造假的AI内容，是时候整治了

近日，福建三明永安发生的“保安与女司机肢体冲突”事件引起热议。原本不过是停车纠纷引发的一般治安问题，后来却有人借助AI，把两名当事人剪成“握手言和接吻”“现场求婚”等荒诞视频。这类内容令人不适，却因技术包装而真假难分，进而快速传播。

这类AI滥用并不是孤例。此前，奥运冠军全红婵的声音被AI克隆拿去带货土鸡蛋，卖出4.7万件，不少粉丝误以为是本人开播。家属无奈回应：“那是AI声音，全平台到处都是这种切片，想告都告不过来。”

同时，一些平台上也不乏“林黛玉倒拔垂杨柳”“西门庆怒揍潘金莲”“孙悟空大战奥特曼”等胡乱改编的内容，甚至还有低质的“激光大战版《三国演义》”，让部分中小学生看得停不下来。

“AI魔改”下《三国演义》和《西游记》的混搭。图源：“中国日报双语新闻”微信公众号

AI在改写内容生产方式的同时，也在重排网络生态的风险格局：创作确实更轻松了，但制造虚假也更容易了。

越像真的，越容易被当成真的

不得不承认，生成式AI显著拉低了创作门槛。过去需要团队协作完成的视频、插画、配音，如今个人借助工具就能做出来，产出效率明显提升，表达的边界也被不断推开。

但随之而来的，是低成本复制、流水线式生产与情绪化叙事的迅速泛滥。到2025年底，“slop”（数字泔水）被评为年度热词，专指AI批量生成的劣质内容；“数字泔水”已逐渐演变为全球性的治理难题。

一方面，生成式AI极大降低了内容成本，让“拼接”“造假”几乎零门槛；另一方面，平台的分发机制天然偏爱冲突更强、情绪更浓的信息，而AI恰好擅长批量生成此类内容。当“低成本产出”叠加“高回报激励”，大量模板化却极易扩散的信息便会迅速铺开。

此外，AI的拟真程度正不断突破普通用户的识别上限，尤其是青少年与老年群体，在信息判断上更容易被带偏。“越像真的”，往往就越容易被当成真的。这种认知错位，也让AI内容治理呈现出长期性与复杂性。

上述均为AI制作。图源：社交平台

从补短板到立制度

正是在这样的背景下，我国对AI内容的治理正由阶段性治理转向制度化建设，多项制度安排也在密集推出：

于2025年9月实施的《人工智能生成合成内容标识办法》，明确规定所有AI生成的文本、图片、音频与视频都需进行醒目标识，以保障公众对信息