AI应用乱象频发，平台不能视而不见

图源：Wikimedia Commons。网络隐私与信息治理配图。

AI工具最擅长谈“效率”，但不少问题伤害人同样迅速。

中央网信办举报中心自2026年6月起设立“涉AI应用乱象举报专区”。新华网发布的“网信中国”消息表明，该专区专门接收14类问题举报，涵盖未按规定完成大模型备案登记、AI平台安全与审核过滤机制存在缺陷、生成内容标识执行不力、违规滥用AI技术从事违法活动，以及AI“魔改”经典IP、传播虚假信息、冒充他人身份、危害未成年人、操控网络水军等行为。

这些问题汇总来看，绝非仅仅是“技术不够完善”所能解释的。

这更像是一种警示：AI产品已从实验室走进普通人的手机，潜在风险也从抽象概念变成了具体场景。一个遭遇AI换脸的人，一个被伪造音频欺骗的家庭，一个被不良内容侵蚀的未成年人，一个被水军操控的舆论环境，都不是模型更新迭代中的小失误。

过去许多平台倾向于将AI风险归咎于“用户使用不当”。

这种说法虽然有一定道理。但如果某平台明知某类功能易被用于造谣、仿冒、打擦边球、引流，却仍通过低门槛、强推送和模糊标识来换取增长，那它就不是旁观者。

AI应用最令人担忧之处，是它将制造虚假内容的成本压得过低。

图源：Wikimedia Commons。AI课堂/应用场景配图。

过去要伪造一段视频、一张图片、一种声音，需要技术、时间和设备支持。如今，很多内容仅需几句提示词和一套模板即可生成。成本降低本身并非坏事，但问题在于：伤害成本降低后，修复成本却往往转嫁给了受害者。

举报专区的价值，在于将分散的个体受害转化为可被关注、可被分类、可被处理的治理线索。

但举报只是起点，并非终点。真正的考验在于平台层面：内容标识是否足够醒目，模型输出是否存在底线，违规应用能否被迅速下架，水军链条能否被斩断，未成年人相关场景是否得到了更高等级的保护。

AI行业不能一面声称自己代表未来，一面将最基本的责任推给用户举报。

技术创新当然需要空间。但空间并非没有边界的旷野。越是强大的工具，越需要在标识、审核、追责和申诉环节提前做好功课。

AI应用可以越来越廉价、越来越便捷、越来越能说会道。

但它不能廉价到伤害他人无需付出代价，便捷到造谣毫无门槛，能说会道到连真伪都不愿标注清楚。