AI乱象如何根治
某个行业的突然爆发并非一朝一夕，而是在长期积累中逐步壮大的，每个行业都存在利弊交织的现象，AI智能也不例外。新鲜事物的热度往往只维持短暂几天，为蹭流量、聚人气，各方可谓费尽心机，但AI智能真能解决所有问题吗？AI乱象又该如何有效遏制？带着这两个疑问，我们深入剖析。AI智能真的能解决所有问题吗？并非所有问题都适合用智能化手段解决，这类似于电子类产品，任何系统都依赖程序与代码，一旦逻辑出错或代码紊乱，后续操作将全面瘫痪，此前所有努力都将付诸东流。其二，AI智能无法应对所有挑战，甚至可能对国家安全与民众隐私构成
AI滥用整治典型案例
当前AI应用门槛很低，普通用户轻易就能生成图像、视频、文本，造成网上谣言、低俗恶搞问题层出不穷。最近清朗行动集中治理这些违规行为，通过真实案例警示：AI使用不当同样会触犯法律。日常生活中的AI造谣屡见不鲜。有人利用AI随意制作短视频，散布“某地超市发生持刀伤人”“学校学生集体食物中毒”的假消息，搭配真实街景画面，看起来真假难辨，大量居民信以为真，引发小区恐慌、家长担忧，最终核实全是AI编造。还有自媒体采用AI换脸技术，合成企业老板公开翻车、吐槽自家产品的视频，恶意诋毁商家，导致店铺声誉受损、股价波动，造谣
网信办重拳治理AI乱象：删除600万余条违规内容，华为阿里强化监管
IT之家 7 月 6 日消息，中央网信办今日发文称，“清朗 · 整治 AI 应用乱象”专项行动自 2026 年 4 月启动以来，中央网信办聚焦未按规定履行大模型备案登记义务、AI 平台安全和审核过滤能力不足、AI 数据投毒、生成合成内容标识落实不到位等 AI 应用乱象，部署各地网信部门深入推进第一阶段重点整治任务，并开设“涉 AI 应用乱象举报专区”，专项受理公众举报。 在各方共同努力下，第一阶段累计处置违规网站、应用程序、智能体等 AI 产品 1.4 万余款，清理违法违规信息 600 余万条，处置账号
AI乱象治理见成效 超2.6万个账号被处理
新华社北京7月6日电 记者6日了解到，“净化·治理AI领域混乱现象”特别行动从今年4月开展以来，国家网信办重点针对未依法进行大模型注册申报、AI系统防护和内容筛选功能不足、AI信息污染、生成合成内容标记不到位等AI领域问题，深入推进首阶段任务，总计处理了违规网站、软件、智能程序等AI产品1.4万余项，清除非法不良信息600余万条，封禁账号2.6万余个，撤除违规AI商品1300余个。 据了解，后续阶段，国家网信办将着重针对借助AI技术生成传播虚假消息、扩散暴力低俗等有害内容、冒充他人、侵犯青少年权利、参与网
清朗行动剑指AI乱象：行业规范已启动，普通人如何守护网络净土
近期浏览公众号和短视频平台时，经常能看到一些表面热闹却缺乏实质价值的文章和视频。逻辑跳跃、内容空洞，甚至存在价值观偏差。这类内容被业内称为AI生成的"信息垃圾"。与此同时，AI换脸、变声技术被用于诈骗或虚假营销的案例也时有发生。这些现象让不少网民和创作者感到困惑：AI技术明明带来了便利，为何在实际应用中却暴露出如此多问题？更令人无奈的是，当前众多软件纷纷嵌入AI功能，几乎无处不在。前几天我和朋友还聊起，某款网盘工具明明只是下载软件，却也内置了AI助手，甚至还限时免费，这未免有些过分了！事实上，早在当年4月
AI乱象举报专区正式上线
为配合“清朗·整治AI应用乱象”专项行动，进一步规范AI服务和应用，促进行业健康有序发展，切实保障公民合法权益，中央网信办举报中心自2026年6月起开设“涉AI应用乱象举报专区”，专项受理公众举报。受理范围主要包括生成合成内容标识落实不到位、制作发布虚假不实和暴力低俗信息等14类问题。一、受理范围（一）AI应用服务违规类1.未按规定履行大模型备案登记义务2.AI平台安全和审核过滤能力不足3.大模型训练语料安全问题4.AI数据投毒问题5.生成合成内容标识落实不到位6.滥用AI技术开展违法违规活动7.开源模型
重磅：网信办启用AI乱象举报专区
为助力“清朗·整治AI应用乱象”专项行动，进一步规范AI服务与应用，推动行业健康有序发展，切实维护公民合法权益，中央网信办举报中心自2026年6月起设立“涉AI应用乱象举报专区”，专门受理公众举报。受理范围涵盖生成合成内容标识缺失、制作发布虚假不实及暴力低俗信息等14类问题。一、受理范围（一）AI应用服务违规类1.未依规履行大模型备案登记义务2.AI平台安全与审核过滤能力欠缺3.大模型训练语料存在安全隐患4.AI数据投毒问题5.生成合成内容标识落实不力6.滥用AI技术从事违法违规活动7.开源模型安全管理存
清朗行动：AI应用乱象举报专区上线，举报电话公布
为了配合“清朗·整治AI应用乱象”专项行动，更好地规范AI服务与应用，推动行业健康发展，切实维护公民权益，中央网信办举报中心于2026年6月正式启动“涉AI应用乱象举报专区”，专门受理公众举报。受理范围涵盖了生成合成内容标识缺失、制作传播虚假及暴力低俗信息等14类问题。一、受理范围（一）AI应用服务违规类1.未按规定完成大模型备案登记2.AI平台安全及审核过滤能力欠缺3.大模型训练语料存在安全隐患4.AI数据投毒风险5.生成合成内容标识未严格落实6.滥用AI技术从事违法违规活动7.开源模型安全管理存在漏洞
重拳整治AI乱象,中央网信办开通举报专区
为落实“清朗·整治AI应用乱象”专项行动要求，旨在规范AI技术与应用，推动产业良性发展，切实维护公众利益，中央网信办举报中心自2026年6月起设立“涉AI应用乱象举报专区”，专门受理公众投诉。受理范围涵盖生成合成内容标识缺失、制作传播虚假及暴力低俗信息等14类违规情形。一、受理范围（一）AI应用服务违规类1.未按规完成大模型备案登记2.AI平台安全及审核过滤机制薄弱3.大模型训练语料存在安全隐患4.AI数据遭受恶意投毒5.生成合成内容未落实标识要求6.滥用AI技术实施违法违规行为7.开源模型安全管理存在漏
网信办设立AI乱象举报专区
为助力“清朗·整治AI应用乱象”专项行动，进一步规范人工智能服务与应用，推动行业健康有序发展，切实保障公民合法权益，中央网信办举报中心自2026年6月起正式启用“涉AI应用乱象举报专区”，专门受理公众举报。受理范围涵盖生成合成内容标识缺失、制作传播虚假不实及暴力低俗信息等14类问题。一、受理范围（一）AI应用服务违规类1.未依法履行大模型备案登记义务2.AI平台安全与审核过滤能力薄弱3.大模型训练语料存在安全隐患4.AI数据投毒行为5.生成合成内容标识未落实到位6.滥用AI技术从事违法违规活动7.开源模型
AI闹剧何时休止？
2024年9月，江苏南京执业律师李小亮无意间在网络上搜索到了令人震惊的一幕：“李小亮律师被判三年有期徒刑”。李小亮说，被判刑三年，我自己都还不知道！“作为一个守法公民和执业律师，AI搜索结果随意生成了很多罪名，对我造成很大影响。”从那时开始，李小亮就搜集证据，与搜索引擎公司展开了一场长达1年7个月的诉讼战。2025年9月，南京市江北新区人民法院一审认定北京百度网讯科技有限公司上述行为构成名誉侵权，并判决向李小亮书面道歉，百度公司不服，提出上诉。2026年3月，南京市中级人民法院二审驳回上诉，维持原判。由于
清朗南粤：广东启动整治AI乱象专项行动
近日，依照中央网信办统一部署，广东省委网信办牵头组织全省网信系统启动为期4个月的“清朗·整治AI应用乱象”专项行动，聚焦整治AI服务与应用中的突出问题，促进AI应用规范、健康、可持续发展，持续营造清朗网络环境。本次专项行动采取两步推进。第一阶段为“清朗·AI应用服务典型违规问题”专项治理，重点围绕未落实大模型备案登记要求、AI平台安全与审核过滤能力不足、大模型训练语料安全隐患、AI数据投毒风险、生成合成内容标识落实不到位、滥用AI技术开展违法违规活动、开源模型安全管理不够到位等7类问题开展整治。第二阶段为
国家重拳整治AI乱象：别让技术变成网络毒瘤
当AI技术以令人惊叹的速度进入我们的日常生活，AI写作、AI绘画、AI换脸确实带来了不少便利与新鲜体验。然而，伴随热度一同涌来的，是层出不穷的AI乱象。虚假信息四处扩散、经典内容被恶意篡改、个人隐私频频受损、未成年人遭遇不良AI内容侵扰……本应提升效率、赋能生活的前沿技术，正逐渐滑向“数字污染”的轨道，变成侵害公众权益的网络“毒瘤”。 就在不久前，中央网信办已正式启动为期4个月的“清朗·整治AI应用乱象”专项行动，瞄准AI领域当下的多类违规顽疾，从技术环节到内容传播进行系统整治，力求全链条、无死角“清障”
网信办启动专项行动，整治人工智能应用乱象
针对人工智能“盗用面容”、数据投毒以及“托管”等乱象，相关部门将展开重点整治。据“网信中国”4月30日消息，中央网信办近日已下发通知，计划在全国范围内启动为期四个月的“清朗·整治AI应用乱象”专项行动。该行动将分两个阶段推进。第一阶段聚焦“清朗·AI应用服务典型违规问题”专项治理，第二阶段则着力于“清朗·整治AI信息内容乱象”专项治理。中央网信办相关负责人指出，各地网信部门需切实承担属地管理职责，督导各网站平台对照整治要点，深入开展自查自纠，全面排查潜在问题与漏洞，建立健全长效治理机制，提升技术防范能力，
网信办启动“清朗”行动，剑指AI乱象
为规范人工智能服务及应用，推动行业健康发展，维护公民合法权益，中央网信办近日发布通知，将在全国范围内启动为期四个月的“清朗·整治AI应用乱象”专项行动。据中央网信办负责人介绍，此次专项行动将分为两个阶段。第一阶段，名为“清朗·AI应用服务典型违规问题”专项治理，将集中处理未按要求完成大模型备案登记、安全审核能力薄弱、大模型训练语料安全隐患、AI数据投毒以及生成内容标识不规范等问题，旨在加强AI技术源头管控。第二阶段，即“清朗·整治AI信息内容乱象”专项行动，将重点打击利用AI生成“数字泔水”、制造传播虚假