清朗行动剑指AI乱象：行业规范已启动，普通人如何守护网络净土

近期浏览公众号和短视频平台时，经常能看到一些表面热闹却缺乏实质价值的文章和视频。逻辑跳跃、内容空洞，甚至存在价值观偏差。这类内容被业内称为AI生成的"信息垃圾"。与此同时，AI换脸、变声技术被用于诈骗或虚假营销的案例也时有发生。这些现象让不少网民和创作者感到困惑：AI技术明明带来了便利，为何在实际应用中却暴露出如此多问题？更令人无奈的是，当前众多软件纷纷嵌入AI功能，几乎无处不在。前几天我和朋友还聊起，某款网盘工具明明只是下载软件，却也内置了AI助手，甚至还限时免费，这未免有些过分了！

事实上，早在当年4月30日，国家网信办就启动了为期4个月的"清朗·整治AI应用乱象"专项行动。6月12日，新华社报道指出，国家网信办举报中心自2026年6月起设立"涉AI应用乱象举报专区"，专门受理群众举报。举报范围涵盖未按规定完成大模型备案登记、AI平台安全审核和内容过滤机制不完善、训练数据存在安全隐患、生成内容标识缺失、利用AI制造"信息垃圾"、传播虚假信息、仿冒他人、危害未成年人等14类问题。公众可通过12377举报热线、全国网络举报官方微博和微信公众号等渠道进行反馈。此举直指当前AI服务和内容领域的突出矛盾，旨在规范AI服务和应用，推动行业健康有序发展，维护公民合法权益。这让众多普通用户和内容创作者看到了积极信号。

作为一名IT从业者，大家如果了解我也清楚，我是伴随中国互联网发展成长起来的一代人！我们用过优质产品，体验过纯净版的互联网生态！所以看到当前的混乱局面，我感到不适和担忧！

当前AI应用中存在的突出乱象

专项行动明确了两个阶段的整治重点。第一阶段聚焦AI应用服务的典型违规问题，包括未按规定完成大模型备案登记、平台安全审核能力欠缺、训练数据安全隐患、AI数据污染、生成内容标识缺失等。第二阶段重点整治AI信息内容乱象，主要涉及利用AI制造"信息垃圾"、传播虚假信息、仿冒他人、危害未成年人、从事网络水军活动等问题。

"信息垃圾"这个词，源于英文"Slop"，被《韦氏词典》评为2025年度词汇，指通常由人工智能批量生成的低质量数字内容。它不是简单的劣质内容，而是AI技术加持下生产门槛大幅降低后出现的规模化现象。这类内容往往逻辑混乱、价值空洞，带有错误价值观或扭曲文化认知，通过强刺激、猎奇、打擦边球等方式获取流量。

在内容平台上，这类AI生成内容有时会挤占真实原创作品的推荐位。部分账号批量生产同质化严重的"爽文"或短视频，节奏快、情绪强，却缺乏深度和正确引导。一些对经典作品的"魔改"，植入低俗或暴力元素，颠覆原有精神内涵。这些内容生产成本低、速度快，却容易污染信息环境，尤其是对未成年人产生不良影响。

此外，利用AI进行"换脸""变声"的深度伪造技术，被用于虚假营销、假冒公众人物传播不实信息，或实施诈骗。未经授权生成合成与他人形象相关的图片、视频，也时有发生。生成合成内容未按要求添加显著标识，或提供"去标识"工具，进一步加剧了真假难辨的问题。

在专业领域，AI生成未经科学验证的医疗、司法、金融等信息，也可能误导公众。这些乱象不是AI技术本身的问题，而是应用环节出现偏差的结果。

乱象为何会产生

AI生成技术快速发展，让内容生产从"手工制作"变成"指尖操作"，极大降低了门槛。这本是技术红利，但也带来新挑战。

流量经济是重要驱动因素。平台算法倾向于推荐高互动内容，而部分低质AI内容往往通过情绪化、极端化表达获得更高点击和停留时长。一些主体为追求短期流量和变现，批量生成内容，忽略质量和责任。

同时，监管和数字素养存在一定滞后。生成式AI服务管理相关规定已经出台，但部分平台和开发者在备案、安全审核、内容标识等方面执行不到位。普通用户对AI生成内容的辨别能力，也需要时间培养。开源模型的安全管理、训练数据的合规性等问题，也成为需要重点关注的环节。

这些因素叠加，使得AI应用在带来便利的同时，出现了野蛮生长的一面。专项行动正是针对这些源头和内容问题，强化治理。

这些乱象对普通人影响有多大

对普通网民来说，最直接的影响是信息环境变"脏"。刷到大量低营养内容，浪费时间是小事，更担心被误导，尤其是涉及健康、财经、时事的信息。深度伪造技术让诈骗手段更隐蔽，AI语音克隆、视频换脸可能让亲友难辨真假，财产安全面临新风险。

对未成年人影响尤其值得警惕。他们是"数字新生代"，接触网络内容多，辨别能力有限。充满扭曲价值观或低俗元素的AI内容，可能影响认知和价值观形成。

对需要利用AI谋生的打工人，影响同样现实。真实原创内容需要时间打磨、思考和核实，而AI批量生成的内容在算法推荐下有时更容易获得流量。优质创作者的生存空间被挤压，长期下去，会削弱整个内容生态的创造力。平台上"信息垃圾"泛滥，也会降低用户对内容的整体信任度，最终伤害所有创作者。

从更广层面看，这些乱象如果不及时治理，可能影响AI行业的长远健康发展。公众对AI的信任是技术持续进步的重要基础。短期逐利行为如果损害信任，对整个行业都是损失。

最关键的是，并不是所有人都像我和朋友一样，很早就接触互联网，知道产品设计的边界在哪里，也理解AI功能应该如何合理呈现。很多年龄较大的人群和刚接触互联网的年轻用户，从一开始就面对现在这种生态环境。如果不及时规范和引导，后续治理的难度会更大，就像当年互联网广告弹窗泛滥后，再想彻底清理就很困难一样！

"清朗"行动正在做什么

专项行动分两阶段推进，问题导向明确。第一阶段强化源头治理，推动大模型备案登记、提升平台安全审核能力、规范训练语料、落实生成合成内容标识要求等。针对数据污染、去标识工具等问题，也提出具体整治要求。

第二阶段直击内容乱象，重点清理利用AI制造的"信息垃圾"、虚假信息、仿冒内容，以及危害未成年人权益的内容。行动要求平台自查自纠，依法处置违规账号、MCN机构和网站平台。

6月12日，新华社报道称，国家网信办举报中心自2026年6月起设立"涉AI应用乱象举报专区"，专门受理群众举报。举报范围主要包括未按规定完成大模型备案登记、AI平台安全审核和内容过滤机制不完善、训练数据安全隐患、生成内容标识缺失、利用AI制造"信息垃圾"、传播虚假信息、仿冒他人、危害未成年人等14类问题。公众可通过12377举报热线、全国网络举报官方微博和微信公众号等渠道进行反馈。这些措施体现出国家对AI健康发展的重视，不是一刀切禁止，而是通过规范应用、强化责任、提升技术防治能力，推动行业走向有序。

从已经公开的信息看，部分平台和地方网信部门已经积极响应，开展自查和清理工作。行动仍在进行中，效果需要时间检验，但方向是清晰的。

我们普通人和需要利用AI的创作者能做些什么

面对AI应用乱象，抱怨没有意义，关键是行动。

作为普通网民，提升数字素养是基础。多源验证信息，注意AI生成内容的标识，警惕异常的语音、视频请求，不轻易点击可疑链接或提供个人信息。尤其是涉及财产和隐私的操作，更要多留一个心眼。

作为内容创作者，大家坚持一个原则：AI是辅助工具，不是替代思考的机器。写文章时，我用AI帮忙整理资料、优化结构、生成图片，但核心观点、事实核查、情感表达和价值观引导，必须自己把关。这样的内容才有温度和生命力，也更经得起时间检验。批量生产低质内容短期可能有流量，但长远看会失去读者信任。

平台和行业也需要承担责任。落实内容标识要求、加强审核过滤、优化算法推荐机制，让优质原创内容有更多展示机会。技术层面，开发更可靠的检测工具和水印技术，也有助于区分真假。

长期来看，需要技术进步、制度完善和全民数字素养教育共同发力。AI技术本身是中性的，关键看我们怎么用。专项行动正在为行业立规矩，我们普通人也要配合，用理性消费和创作行为，共同守护清朗的网络空间。

另外，我现在个人有点心得体会，就是对于很多AI口播、AI语言、AI虚拟人物等等，一旦我察觉到它们是同质化的东西，我立马就选择跳出，相关软件，只要其在不合适的地方或者不应该插入的地方搞AI相关引入，我就直接注销软件账号，卸载这款软件！说白了，整个互联网环境我一个人改变不了，但我自己的网络环境，我可以自己说了算！大家需要有这份同仇敌忾的勇气！真的，有些东西，你只有敢于去和它说"不"，大家才能迎来新的改观！

最后，我想说AI时代，我们这些普通打工人既是技术的受益者，也是网络生态的参与者和守护者。乱象是发展中的问题，不是技术本身的原罪。"清朗"行动的推进，让我们看到治理的决心和方向。但技术再先进，也不能替代人的判断力、责任感和对真实、有营养内容的追求。希望通过各方共同努力，AI能更好服务生活，而不是制造新的混乱。网络空间清朗了，我们每个普通人才能更安心地刷信息、做内容、过日子。