AIGC内容的舆情隐患及应对之道

伴随生成式人工智能工具的快速普及，人工智能生成内容(Artificial Intelligence Generated Content，AIGC)已延伸到图像创作、信息扩散、营销宣传、公文撰写等多种场景。依托“人人都能创作”的技术能力，传统内容生产的专业门槛被进一步压低，同时也带来一连串舆情层面的风险事件。

例如，2025年11月，“小鹏车展AI不雅视频”事件在全网引发热议。有人借助AI以小鹏汽车展台为背景制作虚假低俗视频，不仅对企业形象带来负面冲击，也促使公众围绕AI应用的伦理边界展开更深讨论。多起案例表明，AIGC正在成为新型舆情的重要引爆因素。具体来看，社交机器人能够借助高频发布带有标签倾向的内容迅速聚合舆论，深度伪造技术则可生成高度逼真的多模态内容；当两者叠加时，虚假信息传播速度与覆盖面会显著提升。

因此，有必要搭建一套面向AIGC特性的舆情研判与治理框架：这既是应对技术风险的现实要求，也是促进人工智能持续健康发展的内在需要。

01

AIGC舆情的风险倾向

由于AIGC具备多模态生成、操作门槛低等特性，其引发的舆情表现出与以往网络舆情不同的突出特征：精准打击与泛化伤害可能同步出现。整体而言，可归纳为三种主要形态。

(一)个体靶向型风险：AI赋能下的“精准网暴”与权益损害

该类风险通常把攻击目标锁定在特定个人层面，借助AI完成定制化造谣与隐私侵犯，使舆情焦点更集中于个体名誉与权益受到的冲击。比如针对明星的AI造谣，容易引发粉丝与公众的集中声讨；又如用深度伪造合成普通人的虚假不雅视频，再用于勒索或恶意扩散等行为。

此类舆情最关键的危害在于“技术放大效应”。AI生成内容往往能更精准地迎合公众对公平正义、职业伦理等议题的敏感点，从而增强谣言的迷惑性；同时，通过“开盒”获取到的个人信息也为网暴提供了清晰的落点。即便后续进行辟谣，个体的负面标签也往往难以完全消除。

(二)公共权威型风险：伪官方内容导致公信力被削弱

AI可以对官方文书文本、文件结构开展高度仿真。一旦被非法挪用，就可能成为冲击政务、司法等专业领域权威的工具。当AI系统“一本正经地讲错话”时，它可能输出错误事实、捏造细节或给出不准确建议，从而使缺乏相关知识的用户产生误导。虽然此类谣言往往显得荒诞，但AI仿真的官方措辞与通报样式仍可能让部分公众误以为“官方发布”“官方已证实”，从而消耗政府部门本应获得的公信力。

(三)社会泛化型风险：虚假信息诱发认知紊乱与秩序冲击

该类风险面向的是社会公共议题，利用AIGC放大对立要素，引发跨群体的认知冲突与社会恐慌，进而侵蚀社会信任基础，制造“后真相时代”的认知混乱。若公众难以区分信息真伪，就会对媒体报道与官方通报产生信任危机，并进一步影响社会治理的效率与效果。

可以认为，智能推荐正在逐步成为人们内心深处的权力结构，并嵌入社会生活的运行逻辑，进而被视作“加剧社会不公的助推器”。从国家安全的宏观层面看，需要重点防范AIGC所带来的虚假信息向意识形态领域渗透，形成对国家政治安全的潜在威胁。

02

AIGC舆情风险的治理体系

要构建成熟的AIGC舆情治理体系，必须把握其复杂性与高风险性，打破“单点处置”的思路，形成“法律规制—技术防控—社会共治”的立体化治理结构。治理应在法律规制、技术防控、主体协同等维度上形成合力：从源头遏制技术滥用、在过程环节规范传播行为，并从整体层面提升治理能力。

(一)法律规制

为规范生成式人工智能服务，相关国家部门在2023年8月已发布《生成式人工智能服务管理暂行办法》，对促进生成式人工智能的健康发展与规范应用发挥了重要作用。不过在落地治理过程中，该办法在责任认定、内容溯源以及跨平台监管等方面仍存在执行难题。

责任划分是法治治理的关键突破方向，需要清晰界定AIGC技术开发者、内容生成者与平台传播者的三方权责边界。对于开发者，可结合江苏首例人工智能生成内容著作权纠纷案所确立的“人为主导”原则，要求其对生成内容嵌入溯源标识。若要将人工智能生成内容认定为作品前提，应体现人的独创性智力投入。而该案的审结，在一定程度上也填补了“人工智能生成内容是否纳入著作权保护”的法律空白。

接下来，应围绕“谁来担责、怎么管理、如何处罚”完善具有中国特色的治理框架，衔接“净网—2025”相关实践与《人工智能生成合成内容标识办法》等新规，从而实现更具精准度的制度规制。

(二)技术防控

技术是应对AIGC舆情风险的核心抓手，需要通过“识别—溯源—干预”的技术研发与应用，搭建覆盖全流程的防控体系。

在识别能力方面，应整合计算机视觉、自然语言处理、区块链等技术资源，构建多模态内容识别系统。通过让AI模型学习AIGC的特征规律，实现对文本、图像与视频的精确识别，并推动AIGC内容检测系统的规模化落地，形成自动识别与标注能力。

同时，在开展AIGC技术研发时引入伦理设计，建立技术伦理审查机制。对可能诱发舆情风险的技术应用(如换脸、语音合成)开展前置审查，限制其适用场景，以便从源头降低技术被滥用的概率。

(三)主体协同

为了维护社会稳定、营造清朗网络环境，面对这类新型舆情治理，需要启动覆盖全系统、多个部门协同联动的共治模式，形成“监管—平台—公众”的共同合力。

首先要强化监管联动。以公安部“净网”专项行动为基础，建立公安、网信、应急以及行业主管部门等跨域协作机制。例如面向金融领域的AI诈骗行为，可联动银保监会开展专项整治；面向政务谣言，可与政务部门共同建设权威信息快速发布通道，及时回应网民关切，从而压缩谣言滋生的空间。

其次要压实平台责任。正如中国传媒大学媒介与公共事务研究院院长杨宇军所强调的，“平台放纵谣言传播，如同商场贩卖假货”。平台不能只依赖“通知—删除”的简单规则，而应主动构建“技术初筛+人工复核+热点防控”的审核流程，并严格执行《人工智能生成合成内容标识办法》，以此推动平台真正承担起审核义务。

再次要倡导公众理性参与。公众既是AIGC舆情的接收者、围观者，也是参与者与传播者；其理性行为构成治理体系的“最后一公里”。因此应从媒介素养提升、信息甄别能力与主动监督机制三方面，持续增强全民防范意识，以全民共治不断挤压AI谣言的生存空间。

03

结语

AIGC技术进步是一把“双刃剑”。它在推动内容生产方式革新的同时，也带来了新的舆情风险。考虑到AIGC舆情常见的高逼真度、裂变式扩散、情绪极化以及长尾效应等特点，本文通过梳理与分析提出“法律规制—技术防控—社会共治”的三维治理路径。

未来，随着AIGC技术持续迭代，舆情风险形态将更加多样、复杂。对此，需要进一步强化跨学科研究，促进技术研发与法律完善的深度衔接，同时提升公众媒介素养，推动AIGC技术安全有序发展，确保网络空间清朗有序。