AI色情视频产业链泛滥，监管漏洞亟待封堵

网络上公然叫卖"AI技术炮制色情边缘视频"的教程，声称只需一张照片，乃至简单几句话便能"自制"出"符合个人口味的大尺度影像"；大量兜售各类AI生成边缘视频指令词的网帖，宣传只要复制粘贴到AI视频制作程序中就能产出边缘视频；更有甚者开发专门的AI色情视频工具，甚至将国外大尺度涉黄AI对话应用引入境内……央视财经披露，一些不法商家借助AI"擦边领域"违法获利，已然将AI"制黄"打造成完整产业链。

相比AI编造黄色谣言等个别现象，AI"制黄"产业链的社会危害更为严重。随手可得的色情边缘视频不但荼毒网络环境、腐蚀社会道德、易对青少年产生负面引导，更对大众隐私构成隐蔽威胁。

据悉，某些AI色情视频工具宣称"无需安装，极速制作，支持图片及视频换脸"，仅凭一张照片即可生成裸露影像和色情短片。究竟替换的是何人的面容？这些色情影像在网络中扩散，与视频中人像相似的个体极有可能遭遇生活困扰。而安装未经审查的境外应用，还可能招致恶意程序或数据泄露风险。

《生成式人工智能服务管理暂行办法》明确要求，凡提供具备舆论属性或社会动员能力的生成式AI服务，须依规进行安全审查，并依据《互联网信息服务算法推荐管理规定》完成算法备案及变更、注销手续。开发AI色情视频生成工具显然违反规定。商家蓄意诱导用户绕过审查、搭建灰色渠道供境内用户获取境外涉黄AI对话应用，足见其对违法性质心知肚明。其之所以敢在违法边缘游走，既因色情内容利润丰厚，也源于AI领域监管体系尚不完善，让不法商户有机可乘，违法代价相对轻微。

教授AI制作色情边缘内容的课程竟能在网络平台堂而皇之销售，反映出平台对此类信息警觉性严重不足；在AI程序中套用网上购买的指令词确能产出边缘视频，说明AI应用的"色情防火墙"形同虚设；应用软件上线本应经过多重审查，而AI色情视频生成工具却能现身市场，暴露出品控机制存在漏洞；社交媒体的评论区充斥着用户分享各类无限制AI对话软件的使用体验，附带下载链接和邀请码，凸显平台内容治理效能低下……无论是审查缺失还是执行不力，各平台在AI色情内容管控方面的迟缓，恰恰为不法商家的灰色通道大开方便之门，为AI色情产业的蔓延创造了温床。

近年以来，网信办等主管部门持续加大AI技术滥用整治力度。今年4月10日发布的《人工智能拟人化互动服务管理暂行办法》，进一步细化了安全审查与算法备案的具体规范，并对青少年及老年群体使用拟人化互动服务提出专门条款。AI"制黄"产业链的浮现说明，监管机构和各大平台仍需持续提升对AI技术滥用的防范意识，强化监测、审查及处置能力，借助不断健全的管理体系，彻底堵死AI色情产业的灰色路径。