AI监管升级!举报通道已开启,这些红线千万别踩
当人工智能技术深度渗透日常生活、工作与网络空间，AI绘图、AI配音、AI生成文案、深度伪造视频等应用遍地开花，在提供便利的同时，利用AI实施的违法违规现象也屡见不鲜。为净化网络空间、规范行业健康发展，中央网信办正式上线AI应用乱象举报专区，全面启动"清朗·整治AI应用乱象"专项行动，面向社会公开征集违规线索，助力AI产业规范有序发展。很多人并不了解，日常使用中哪些AI行为属于违规范畴，今天就为大家详细解读。 本次整治清晰划分两大板块、十余类重点违规行为，覆盖技术应用、内容创作、平台运营等全链条。首先是AI
重拳整治AI乱象,中央网信办开通举报专区
为落实“清朗·整治AI应用乱象”专项行动要求，旨在规范AI技术与应用，推动产业良性发展，切实维护公众利益，中央网信办举报中心自2026年6月起设立“涉AI应用乱象举报专区”，专门受理公众投诉。受理范围涵盖生成合成内容标识缺失、制作传播虚假及暴力低俗信息等14类违规情形。一、受理范围（一）AI应用服务违规类1.未按规完成大模型备案登记2.AI平台安全及审核过滤机制薄弱3.大模型训练语料存在安全隐患4.AI数据遭受恶意投毒5.生成合成内容未落实标识要求6.滥用AI技术实施违法违规行为7.开源模型安全管理存在漏
网信办设立AI乱象举报专区
为助力“清朗·整治AI应用乱象”专项行动，进一步规范人工智能服务与应用，推动行业健康有序发展，切实保障公民合法权益，中央网信办举报中心自2026年6月起正式启用“涉AI应用乱象举报专区”，专门受理公众举报。受理范围涵盖生成合成内容标识缺失、制作传播虚假不实及暴力低俗信息等14类问题。一、受理范围（一）AI应用服务违规类1.未依法履行大模型备案登记义务2.AI平台安全与审核过滤能力薄弱3.大模型训练语料存在安全隐患4.AI数据投毒行为5.生成合成内容标识未落实到位6.滥用AI技术从事违法违规活动7.开源模型
中央网信办设立 AI 乱象举报专门通道
新华社北京 6 月 12 日电 记者 12 日了解到，为助力“清朗·整治 AI 应用乱象”专项行动，进一步标准化 AI 服务与应用，推动产业健康有序进步，切实守护公民合法权利，中央网信办举报中心自今年 6 月正式启动“涉 AI 应用乱象举报专区”，专门接收大众举报。 据了解，“涉 AI 应用乱象举报专区”的受理范畴主要涵盖：未依规执行大模型备案登记职责，大模型训练素材存在安全隐患，生成合成内容标识执行不力，借助 AI“魔改”经典作品、制造“数字泔水”，编造发布虚假误导信息，损害未成年人利益等 14 类情形
五月全国网络举报量达 1799.4 万件
据中央网信办举报中心 6 月 12 日披露的数据，2026 年 5 月期间，在该中心的指导下，全国各级网信举报机构及主流网站平台共处理涉及色情、赌博、侵权及谣言等违法不良信息的网民举报 1799.4 万件，环比上升 6.7%，同比微降 1.7%。 具体分布上，中央网信办举报中心接报 58.6 万件，各地网信举报部门接报 50.7 万件，而全国主要网站平台接报量高达 1690.1 万件。 中央网信办举报中心指出，当前全国各大主流网站平台正持续优化举报通道，高效受理并处置网民反馈。诚邀广大网民踊跃投身网络综合
网信办揭露 30 款 App 违规收集用户信息
新华社北京 6 月 11 日电 依据中央网信办、工业和信息化部及公安部共同印发的《关于开展 2026 年个人信息保护系列专项行动的公告》，中央网信办针对各类 App（包括小程序）在个人信息采集与使用方面的行为展开了检测，并于 11 日公开通报了 30 款存在违规问题的 App。 通报显示，锐新教育、趣学车等 7 款应用未向社会公开其个人信息收集使用规范；蓝猫云商、大象优品等 4 款应用存在频繁索取非必要性权限的现象；中旅旅行、东融等 5 款应用未能完整且准确地列出 SDK 收集使用个人信息的详情；此外，匠
网信办正式定性GEO恶意营销为AI数据投毒：合规优化才是品牌AI流量正途
2026年，AI营销正式告别野蛮生长阶段！随着生成式AI全面渗透搜索、问答、内容推荐等全场景，依托AI生态的GEO（生成式引擎优化）成为品牌流量新赛道。但与此同时，批量造假、恶意刷量、虚假铺料的GEO黑产泛滥，严重污染网络信息生态。重磅信号落地！中央网信办正式将GEO恶意营销定性为AI数据投毒，纳入“清朗·整治AI应用乱象”专项行动核心打击范围。这一次，不是口头警示，而是监管定性、专项整治、全域严打，彻底终结GEO灰色产业链！很多品牌都踩过坑：明明做了GEO优化，流量看似暴涨，却没有真实转化，甚至后期被平
网信办点名30款应用违规收集个人信息
依据中央网信办、工业和信息化部、公安部联合发布的《关于开展2026年个人信息保护系列专项行动的公告》，以及《网络安全法》《个人信息保护法》《网络数据安全管理条例》《App违法违规收集使用个人信息行为认定方法》等法律法规的相关规定，中央网信办对App（含小程序）收集使用个人信息情况开展专项检测，现将典型问题通报如下： 一、锐新教育、趣学车等7款应用未向用户公开个人信息收集使用规则（详见下表）。 二、蓝猫云商、大象优品等4款应用频繁申请非必要系统权限（详见下表）。 三、中旅旅行、东融等5款应用未完整准确披露S
AI 前沿速递：微信语音控小程序，Siri 迎来重生，OpenAI 冲刺 IPO
今日 AI 领域资讯爆棚：微信 AI 生态启动内测，语音即可唤醒小程序；苹果 WWDC 放出重磅更新，Siri 实现彻底革新；OpenAI 正式开启上市进程。请做好准备，共同盘点今日最值得关注的六大 AI 动向。1 微信 AI 生态启动内测：小程序支持 AI 直接调用微信团队正式公布了小程序接入 AI 生态的内测指南！这预示着未来用户在微信中通过自然语言发出指令，AI 便能自动启动相应小程序提供服务。开发者可选择「自动模式」（无需代码、平台直接解析源码）或「开发模式」（基于 MCP 协议封装技能），两种模
上海人工智能服务登记进展通报（截至6月8日）
为推动上海市生成式人工智能产业健康发展与合规运营，市网信办依据相关管理办法，积极推进本市AI服务备案工作（详见相关通知）。针对通过API等方式调用已备案模型、向公众提供具备舆论属性或社会动员能力的生成式AI服务，将联合本市相关部门实施登记管理。现将具体情况公布如下。截至6月8日，本市新增6款完成登记的生成式人工智能服务，登记服务累计总数达183款。上海市生成式人工智能服务备案、登记信息公告汇总“网信上海”是上海市互联网信息办公室官方微信公号，权威发布上海市互联网治理信息，及时回应上海市热点网络舆情事件。
五部门联合发布多渠道分发新规
据国家网信办消息，国家网信办、公安部、文化和旅游部、市场监管总局及广电总局近期共同发布《互联网信息内容多渠道分发服务管理规定》，该规定将于今年9月1日正式实施，其目的是为了推动互联网信息内容多渠道分发服务健康有序发展，维护公民、法人和其他组织的合法权利，构建清朗的网络空间。 根据规定，互联网信息内容多渠道分发服务机构必须依法完成经营主体登记，并依法获得相应行政许可；平台需要与互联网信息内容多渠道分发服务机构签署入驻协议，并迅速将入驻情况向当地省级网信部门登记备案；平台必须以醒目形式，在签约互联网用户公众账
上海AI服务备案最新进展（截至6月1日）
为推动上海市生成式人工智能产业健康发展与合规运营，持续推进上海人工智能创新高地建设实现新跨越，上海市网信办联合相关主管部门依据《生成式人工智能服务管理暂行办法》，稳步推进本市生成式人工智能服务备案工作，现将已完成备案的相关信息予以公布。截至6月1日，本市新增3款通过备案的生成式人工智能服务，备案总数累计达到169款。已投入使用的生成式人工智能应用或功能，须在显著位置或产品详情页明确标注所采用的已备案生成式人工智能服务信息，包括模型名称及备案编号，并按照《人工智能生成合成内容标识办法》要求添加相应的生成合成
中央网信办启动AI应用乱象整治行动
为规范人工智能服务应用，推动行业健康发展，维护公民合法权利，近日中央网信办发布通知，在全国范围内启动为期4个月的"清朗·整治AI应用乱象"专项治理工作。中央网信办相关负责人指出，此次专项治理分为两个阶段实施。第一阶段为"清朗·AI应用服务典型违规问题"专项整治行动，重点解决未按要求完成大模型备案登记、安全审核能力欠缺、大模型训练语料安全、AI数据投毒、生成合成内容标识执行不力等问题，加强AI技术源头管控。第二阶段为"清朗·整治AI信息内容乱象"专项治理行动，重点针对运用AI技术制造"数字泔水"、制作传播虚
多部委联合出台文件 推进全民数字技能发展
近期，中央网信办、教育部、工信部以及人社部共同发布了《2026年提升全民数字素养与技能工作要点》（简称《工作要点》）。 该文件明确了6个领域内的15项关键举措。首先，优化数字素养培养架构，旨在加强数字资源开放及拓宽提升途径。其次，推进数字应用场景的深度建设，涵盖改善生活品质、增强工作效能及激发创新潜能。再次，增强全民的人工智能素养，涵盖强化AI在教育中的应用、加快人才培养及推动AI普及。此外，推动数字普惠包容发展，涵盖优化无障碍信息环境及打造助老公益项目。同时，构建安全有序的网络空间，涵盖倡导文明上网、强
网信办重拳出击：两月专项严打涉企恶意炒作
新华社北京 5 月 29 日电记者 29 日了解到，中央网信办近期下发通知，宣布在全国启动为期两个月的“清朗·优化营商网络环境 整治恶意炒作涉企信息”特别行动。此次行动旨在集中治理恶意炒作侵害企业权益信息的乱象，迅速且严格地清理处置相关侵权信息及账号，督促各大网站平台切实履行主体责任，完善涉企信息内容管理体系，增强对涉企侵权信息的处理强度，从而进一步优化营商环境。 该专项行动重点针对恶意炒作涉企资讯、诽谤抹黑企业、谋取不正当利益以及侵犯企业家个人权益等四大类突出问题进行整治。具体涵盖：恶意汇集涉企负面内容