AI浪潮下互联网信任体系的重塑与思考
人工智能席卷而来：技术更迭之中，时代与价值的双重转变 审视Tim老师《AI正在摧毁互联网的信任》这篇文章，结合当前人工智能迅猛发展的态势，我们能够清晰看到这场技术革命早已突破技术领域本身，而是全面渗透至互联网生态、职场环境与社会价值观念之中。当前"AI冲击互联网"已成为全网高度关注的话题，不同群体立场迥异，有人忧心忡忡，有人冷静看待，也有人积极迎接。而回顾人类技术演进历程，AI所带来的革新与重塑，本质上属于时代发展的必然趋势。 回顾人类工业发展进程，每次具有颠覆性的技术出现，核心要义都是释放生产力。蒸汽机
热门AI应用因违规被监管部门约谈
近期网信部门工作中发现，"剪映""猫箱"App及"即梦AI"网站存在未有效落实人工智能生成合成内容标识规定要求等问题，违反《网络安全法》《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等法律规定。国家互联网信息办公室指导属地互联网信息办公室，依法对上述网站平台采取约谈、责令改正、警告、从严处理责任人等处置处罚措施。国家互联网信息办公室相关负责人表示，网站平台要严守法律底线红线，严格落实人工智能生成合成内容标识相关规定要求。网信部门将深入推进依法管网治网，持续加大人工智能生成合成内容标识监
上海发布生成式 AI 服务备案最新名单（5 月 18 日）
旨在加速上海人工智能高地的建设进程，推动生成式 AI 技术的创新与规范化应用，上海市网信办联合多部门严格遵循《生成式人工智能服务管理暂行办法》，稳步推进本市相关服务的备案事宜，现正式对外披露已完成的备案详情。截止到 5 月 18 日，本市又有 8 个生成式人工智能服务项目成功通过备案，至此，累计完成备案的服务总数已达 166 项。凡是已投入运营的生成式人工智能应用或其功能模块，均须在显眼位置或产品详情页明确展示所调用的已备案服务信息，列清模型名称与备案编号，并严格依据《人工智能生成合成内容标识办法》的要求
网信办严打AI违规,Cursor事故凸显安全危机|DSP AI安全周报(4.24-4.30)
-数据安全技术研发中心-DSP人工智能安全周报20260424-20260430本周网信办发起针对AI应用乱象的专项整顿，矛头直指备案登记、安全审核、训练数据、数据投毒及内容标识等基础合规环节，标志着监管重心正由“鼓励应用”转向“源头治理”。OpenAI与Anthropic相继更新安全与责任扩展页面，表明头部模型厂商持续将访问控制、滥用检测、研究工具权限及高风险场景响应列为近期治理核心。在技术产品层面，Cursor AI智能体误删生产数据库事件，将“自主系统权限边界”与“端侧AI治理隐私”问题推向风口浪尖
人工智能的数据污染：GEO投毒的法律风险与防控策略(下)
行政层面的风险往往是最先显现的。一旦投毒内容涉及产品性能、功能、质量、销量、用户评价、荣誉资质等方面的虚假或误导性表述，很可能触及反不正当竞争法中关于虚假商业宣传的相关条款。现行反不正当竞争法明确规定，禁止经营者对产品性能、功能、质量、销售情况、用户评价、曾获荣誉等进行虚假或误导性的商业宣传，同时禁止通过组织虚假交易、虚假评价等方式协助他人进行虚假宣传。[9]若相关内容以广告形式出现，还可能受到广告法及市场监管规则的约束；在医疗、金融、教育、保健食品等行业领域，合规要求更为严格。网络信息监管同样不容忽视。
2026 年 3 至 4 月生成式 AI 服务备案名单公布
为推动生成式人工智能服务的创新成长与规范落地，网信部门联合相关单位依据《生成式人工智能服务管理暂行办法》，持续深化服务备案工作。2026 年 3 月至 4 月期间，国家网信办新增备案 72 款生成式人工智能服务；针对通过 API 接口或其他途径直接调用已备案模型能力的生成式 AI 应用或功能，由地方网信办实施登记，此期间新增 49 款完成登记。截止 4 月 30 日，累计共有 868 款生成式人工智能服务完成备案，530 款相关应用或功能完成登记。现将具体信息公告如下。凡提供具备舆论属性或社会动员能力的生
网信办新规：短视频发布须先选标签
新华社北京 5 月 12 日电记者 12 日了解到，中央网信办近期已安排并指导各大网络平台规范短视频的内容标注工作，明确规定了必须设立的标签类型及其显示位置。内容标注现已被列为短视频发布的前置必要条件，发布者唯有从“必选标签”库中选定一项，方可完成发布。此外，官方还对既有短视频的回溯审查与补充标注提出了具体要求，旨在促使发布者对自身内容承担责任，进一步强化网站平台的内容审核职责。据悉，面对部分短视频存在的来源不明、真伪难辨以及误导公众等显著问题，今年以来，中央网信办全面统筹并推进短视频内容标注的规范化进程
网信办严管短视频标注，发布须选六类必选标签
为了解决短视频来源不明、真伪难辨及误导公众等问题，中央网信办自年初起全面启动并实施短视频内容标注规范。从1月份起，监管部门督促各网络平台大力清理虚假摆拍等违规视频超52万条，查处违规账号逾6.8万个，通报治理公告54份，并集中披露典型案例。今年3月，网信办又指导抖音、快手、腾讯、小红书、B站、微博、淘宝、京东、拼多多、支付宝、美团及百度等12家头部平台率先试点，对内容标签体系进行完善，并对标注功能进行了优化与测试。 近期，网信办在总结试点经验的基础上，要求各平台全面落实三项核心任务：首先，规范标签体系，强
短视频标注新规解读：压实平台责任，净化网络空间
近期，中央网信办统筹指导各大网站平台完善短视频内容标注机制，清晰界定了标签类别与展示位置，将内容标注确立为视频发布的前置必要条件，并针对存量视频提出了回溯补标要求。此举旨在强化发布者主体责任，进一步夯实平台的内容审核职责。中央网信办网络综合治理局相关负责人就该项工作的背景部署及具体安排，接受了媒体采访。1.问：请阐述一下规范短视频内容标注的现实背景？答：近年来自媒体视频行业爆发式增长，创作生态百花齐放，但随之也出现了虚构剧情、商业种草及 AI 生成内容激增等现象。部分个人观点类或转载类视频，其真伪难辨，甚
广东省生成式人工智能服务备案情况通报(5月11日)
为推动生成式人工智能服务创新发展并加强规范管理，网信部门联合相关单位依据《生成式人工智能服务管理暂行办法》规定，积极推进生成式人工智能服务登记工作，现对我省已完成登记的相关信息进行公布。截止至5月11日，我省新增6款完成登记的生成式人工智能服务，现有累计53款生成式人工智能服务完成登记。为持续加强生成式人工智能服务规范管理，落实服务提供方主体责任，确保服务安全可靠运行，对于通过API接口等方式直接调用已备案大模型能力，并向境内公众提供具备舆论属性或社会动员功能的生成式人工智能服务，需通过所在地网信部门完成
清朗南粤：广东启动整治AI乱象专项行动
近日，依照中央网信办统一部署，广东省委网信办牵头组织全省网信系统启动为期4个月的“清朗·整治AI应用乱象”专项行动，聚焦整治AI服务与应用中的突出问题，促进AI应用规范、健康、可持续发展，持续营造清朗网络环境。本次专项行动采取两步推进。第一阶段为“清朗·AI应用服务典型违规问题”专项治理，重点围绕未落实大模型备案登记要求、AI平台安全与审核过滤能力不足、大模型训练语料安全隐患、AI数据投毒风险、生成合成内容标识落实不到位、滥用AI技术开展违法违规活动、开源模型安全管理不够到位等7类问题开展整治。第二阶段为
未标注AI生成内容造谣，逾1.3万账号遭清理！
近来，一些网络账号在发布AI合成内容时，未按规定标注AI来源，涉嫌利用虚假信息蒙蔽误导大众，严重破坏网络环境，产生不良后果。网信部门责令各大平台全面排查整改，依法依规处理账号13421个，删除违规信息54.3万余条。现公布部分典型案例如下：一、微博账号“澄馫”、快手账号“玲子爱狗狗”、哔哩哔哩账号“空空说电影”等，在发布狗狗高铁救婴、拆弹救人、鳄鱼伤人等视频时，未标注AI生成，通过编造感人情节、猎奇事件恶意骗取流量。涉事账号已被依法依规处理。二、微信账号“浮萍9419”、微博账号“乘风已归来”、快手账号“
智能体规范应用与创新发展文件发布
记者8日获悉：近日，国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》，目的在于贯彻落实国务院《关于深入实施“人工智能+”行动的意见》，推动智能体规范应用与创新发展。 实施意见指出，智能体是具备自主感知、记忆、决策、交互与执行能力的智能系统，是人工智能产品及服务的重要形态。随着大模型等新一代人工智能技术加速涌现，智能体正不断与网络空间、物理世界实现深度融合，持续影响并重塑人类生产生活方式与社会治理模式。 实施意见明确，智能体发展应坚持安全可控、规范有序、创新驱动、应用牵
网信办启动“清朗·整治AI应用乱象”专项行动
近日，中央网信办在全国范围内部署开展为期4个月、分两个阶段推进、聚焦14类突出问题的“清朗·整治AI应用乱象”专项行动，目的在于规范AI服务与应用，推动行业健康有序发展，同时切实保障公民合法权益。 中央网信办有关负责人介绍，此次专项行动分两阶段实施。第一阶段为“清朗·AI应用服务典型违规问题”专项治理行动，重点加强AI技术源头治理。第二阶段为“清朗·整治AI信息内容乱象”专项行动，将依法清理违法不良信息，并对违规账号、MCN机构及网站平台作出处置与处罚。中央网信办强调，各地网信部门要充分把握专项行动对促进
网信办启动专项行动，严打AI乱象
据“网信中国”公众号消息，为进一步规范人工智能服务和应用，促进相关行业健康有序发展，切实保障公民的合法权益，近日，中央网信办发布通知，将在全国范围内启动为期四个月的“清朗·整治AI应用乱象”专项整治行动。中央网信办相关负责人指出，此次专项行动将分为两个阶段进行。第一阶段是“清朗·AI应用服务典型违规问题”专项治理行动，主要针对未按要求完成大模型备案登记、安全审核能力不足、大模型训练语料安全隐患、AI数据投毒以及生成合成内容标识执行不到位等问题，旨在从源头上加强对AI技术的管理。第二阶段是“清朗·整治AI信