上海全面启动'清朗·整治AI乱象'专项行动首轮治理

为贯彻中央网信办关于"清朗·整治AI应用乱象"专项行动的工作要求，自4月下旬起，上海市委网信办紧盯大模型备案登记缺失、安全审核机制薄弱、训练数据安全隐患、AI数据污染、合成内容标识缺位、AI技术滥用、开源模型管控不力等七项核心问题，着力从源头加强AI技术管控，稳步推进行动落实。

汇聚社会力量，构建协同治理格局

5月13日，上海市委网信办组织召开重点平台专项工作推进会，面向属地内AI平台、内容平台、电商平台、应用商店及开源社区等五大类共17家重点网站平台明确工作要求，督促各平台完善安全与举报机制、主动接受公众监督。5月15日，指导稀宇、千问、小红书、哔哩哔哩、拼多多等头部平台集中发布专项治理声明，实现监管与平台治理的有机联动。与此同时，上海举报中心在官网开通专项举报通道，截至目前已受理涉AI违法不良信息举报及12345市民转办线索20余条，有效拓宽社会监督渠道，汇聚多元治理力量。

强化整治措施，推进源头技术管控

上海市委网信办秉持问题导向，组织17家重点网站平台全面自查自纠，累计清理拦截去除AI标识工具及教程、数据污染、未授权"换脸拟声"、AI造谣传谣、AI低俗信息等违法违规内容487万余条，封禁违规账号1.8万余个，下架违规智能体1.4万余个，清理违规商品1300余件，并对屡次违规账号采取阶梯式处罚直至永久封禁，对AI应用服务领域的典型违规现象形成有效震慑。

各平台主动担当主体责任，持续巩固治理成果。稀宇持续下架"一键脱衣"、赌球博彩等违规智能体，严厉打击利用AI编写病毒、钓鱼程序等恶意行径；小红书整治AI代运营账号，禁止销售去除AI标识商品，积极推动与主要制作平台的隐式标识互认；哔哩哔哩在发布环节加强提示，将"AI生成"设为必选项，引导创作者规范发布；魔搭社区全面清理涉低俗等违规数据集，加强开源模型审核管理。

为保障治理工作长效化，上海市委网信办委托3家专业机构，对用户规模较大、影响较广的32款AI产品进行专项巡查测试，并赴4家企业实地检查。通过督促企业自查整改，重点解决AI标识落实不足、平台安全与审核能力薄弱等问题，切实增强技术防控水平，健全长效治理体系。

加强AI治理协作，助力行业良性发展

深化上海市大模型合规指导服务中心与各区网信办的协作联动，开展16场AI安全合规培训进街镇活动，加强政策解读与业务办理。强化"应备未备"排查服务，督导安全评估工作。截至目前，上海已完成169款大模型备案，183款调用已备案模型API的生成式人工智能应用完成登记。

依托上海市人工智能治理协同机制，强化重点领域联合治理。市区联动，在浦东软件园举办"AI场景落地中的安全挑战和合规赋能"主题沙龙，通过专家分享与政企交流，为行业健康发展与智能化应用保驾护航。针对医疗、政务等关键领域，坚持"先测评后上线"原则。联合市数据局，持续优化政务智能应用测评验证中心功能，制定安全标准，推动应用安全稳妥落地；协同市卫健委，依托医疗大模型应用检测验证中心，确保医疗AI应用安全可靠。联动市市场监管局调研头部GEO企业，探索源头治理方案。

关注未成年人保护，规范拟人化AI服务

《人工智能拟人化互动服务管理暂行办法》将于7月15日正式实施。上海市委网信办多措并举，加强对属地AI拟人化互动服务的指导。加强宣贯促合规，面向近百家重点平台开展法规培训，指导企业结合业务实际加快合规建设，提升能力、完善机制；深化巡查排隐患，针对部分应用存在的未成年人模式形同虚设、身份核验失效及不良内容生成等风险，督促企业严格落实未成年人身份核验，防范情感依赖与消费诱导，坚决清理危害身心健康的内容；严格执法强震慑，对问题突出、群众和媒体反映强烈的个别应用，第一时间开展监管执法，切实强化对"一老一小"群体权益的保护。

专项行动第二阶段安排

上海市委网信办将聚焦利用AI技术生产"数字垃圾"、编造传播虚假信息、散布暴力低俗内容、冒用他人身份、侵害未成年人权益、组织网络水军等行为，持续推进专项行动，坚决清除违法不良信息，依法依规处置违规账号和网站平台，维护良好网络生态。

专项行动期间，欢迎广大网民通过上海市委网信办"清朗·整治AI应用乱象"专项举报入口踊跃举报违规线索，共同营造清朗网络空间。

长按二维码进入专项举报入口：

"网信上海"是上海市互联网信息办公室官方微信公号，权威发布上海市互联网治理信息，及时回应上海市热点网络舆情事件。