治理AI应用违规行为 专项行动已处理账号超2.6万个
"清朗·治理AI应用违规行为"专项行动自2026年4月开展以来，中央网信办重点针对未按要求完成大模型备案登记手续、AI平台安全防护与内容审核过滤机制薄弱、AI数据投毒攻击、生成合成内容标识规范执行不力等AI应用领域违规问题，指导各地网信部门扎实推进第一阶段核心治理任务，同时设立"AI应用违规问题举报专区"，专门接收公众投诉。在各方协同配合下，第一阶段共处理违规网站、应用程序、智能体等AI产品1.4万余款，清理违法违规信息600余万条，处理账号2.6万余个，下架违规AI商品1300余个、违规开源数据集9个，
中央网信办持续推进'清朗·整治AI应用乱象'专项行动首轮治理
“清朗·整治AI应用乱象”专项行动自2026年4月启动以来，中央网信办聚焦未按规定履行大模型备案登记义务、AI平台安全和审核过滤能力不足、AI数据投毒、生成合成内容标识落实不到位等AI应用乱象，部署各地网信部门深入推进第一阶段重点整治任务，并开设“涉AI应用乱象举报专区”，专项受理公众举报。在各方共同努力下，第一阶段累计处置违规网站、应用程序、智能体等AI产品1.4万余款，清理违法违规信息600余万条，处置账号2.6万余个，下架违规AI商品1300余个、违规开源数据集9个，各项工作取得积极进展。各地网信部
商务部发布新规 强化战略矿产两用物项出口违规举报机制
【发布单位】安全与管制局 【发布文号】商务部公告2026年第26号 【发文日期】2026年06月24日 为有效发挥公众监督效能，遏制战略矿产两用物项出口管制领域的违规违法活动，依据《中华人民共和国出口管制法》《中华人民共和国对外贸易法》等相关法律规范，商务部决定就战略矿产两用物项出口管制违法违规行为举报处理机制予以优化完善。特此通告如下： 一、任何单位及公民均享有举报权，可就下列涉嫌违反法律法规出口战略矿产两用物项的行为进行举报： （一）未获批准擅自对外输出战略矿产两用物项； （二）超越出口许可证所载明的
XLSRC 规范 AI 生成漏洞报告的公告
各位白帽子朋友：衷心感谢大家长久以来对小拉安全体系建设的鼎力支持。伴随大模型能力飞速提升，借助 AI 工具辅助或自动挖掘漏洞已成为安全研究的新风尚。近期，我们确实接收了部分由 AI 协助发现的高质量漏洞报告，但也遭遇了海量未经人工核验的无效报告，甚至是被 AI“幻觉”误导导致的误报。为合理配置有限的审核资源，确保 XLSRC 审核团队能专注于真实有效的漏洞，同时维护良好的社区生态，现特发此公告，对 AI 辅助挖掘及生成的漏洞报告提交标准予以规范：提倡 AI 应用XLSRC 大力鼓励白帽子利用 AI 工具辅
小红书上线AI内容治理新规
4月27日，小红书公布AI内容治理公告，倡导创作者如实标注AI内容。平台支持的AI创作方向包括AI视觉创作、AI角色创作、AI知识科普；平台明令禁止的AI违规行为包括AI违规运营、AI造假、AI侵权、AI低质等。小红书发布AI治理公告AI提升了创作效率，也让造假成本更低。冒充真人、批量生成内容、侵占他人原创成果——被透支的，是每一位认真创作者辛苦积累起来的社区信任。小红书此次正式推出AI内容治理规则，进一步划清平台态度与管理边界。真诚进行创作的人，应当被更多看见，也应获得应有保护。一、关于AI内容标注平台