AI舆论风险的防控策略

人工智能技术正广泛应用于内容生成与传播、智能化分析决策、技术攻防等领域，在带来技术红利的同时，也通过数据投毒与污染、舆论操控和煽动、意识形态渗透等方式，对舆论安全造成冲击。因此，亟须探讨针对性的应对策略，以期为完善人工智能风险治理体系，推动人工智能安全、健康、有序发展提供理论参考。

截至2025年4月，我国人工智能专利申请量超157万件，占全球申请量超过38%，居世界第一。人工智能技术正广泛应用于内容生成、信息传播、智能分析、辅助决策等领域，既赋能千行百业，也暴露出数据污染、算法偏见、舆情操纵等潜在风险，冲击舆论安全和网络生态防线。如何加强对人工智能技术跃迁可能引发舆论风险的防范和治理，推动算法向优、科技向善，成为优化人工智能风险治理体系的急切之问。

生成式人工智能可能引发的舆论风险

“数据投毒”和新型网络水军加剧谣言生成扩散，影响和干预舆论走向

一是“原生式谣言”难辨真伪，“数据投毒”误导公众认知。生成式人工智能通过对海量数据进行学习和分析，能够生成极具真实感、真伪难辨的内容。在图像生成领域，生成式人工智能模型能够模拟物理世界的各种元素，让缺乏专业辨别能力的普通用户信以为真。在语音生成领域，TTS等技术能够精准捕捉人物的语调起伏、呼吸节奏和情绪波动，制作以假乱真的音频。视频理解与生成算法将图像与音频结合，能够完成唇型动态、微表情变化与语义内容的毫秒级匹配，生成高度逼真的视频片段。这种谣言突破了传统感知界限，对社会舆论的误导性极强。同时，虚假信息可能作为新的训练数据被再次“喂养”给学习模型，形成“垃圾进，垃圾出”的恶性循环。中国互联网联合辟谣平台对2025年网络谣言的分析显示，网络谣言主要集中在利用人工智能生成虚假信息、杜撰灾害事故及炒作民生热点等方面，产生混淆视听、误导认知等负面影响。

二是谣言生产批量生成，新型网络水军推动舆情发酵蔓延。人工智能降低了谣言生产的技术门槛和经济成本，能够批量快速生成结构完整、逻辑自洽的谣言。通过自动化脚本及多线程等技术的配合，新型网络水军已经从初始的机械性灌水回帖发展为高度类人化和仿真化的自主社交和虚拟发言，可以不间断地根据特定议题、基于固定立场在不同平台进行同质化的观点输出，以先占优势和规模效应操纵舆论声势。例如，2024年江西南昌某MCN机构被公安机关查处。该机构构建的全自动谣言“生产线”，首先从国内某热点预测网站获取关键词，生成文章标题；再通过语音交互型AI工具抓取网络信息，生成虚假文本并匹配相关图片；最终借助自动化发布软件，将谣言批量上传至多平台账号对外发布。该机构最高峰时单日可生成4000～7000篇谣言，通过造谣引流、舆情敲诈，每日非法牟利超万元。另外，甘肃、浙江等地近年均发生利用人工智能编造传播虚假新闻的案件。此类犯罪行为成本低、危害性大，直接影响网络安全和行业发展。

算法偏见和信息茧房导致舆论短视，污染和冲击网络生态

一是算法偏见助推谣言弥散，网络秩序和社会信任遭到破坏。社交媒体平台和搜索引擎的算法推荐机制看似基于用户浏览历史，精准推送可能感兴趣的内容，但事实上算法推荐正被经济利益、话题制造、运营策略等隐蔽操纵。算法推荐往往将注意力聚焦于冲突点和流量，将一些话题性强、能够吸引大量点击和互动的人工智能生成谣言视为优质内容推送给更多用户，成为谣言的放大器和发酵缸。根据中央网信办数据，网络谣言主要聚焦教育考试、交通出行、灾情事故等领域。不法分子借操纵算法推荐、编造虚假信息，达到宣传引流的目的，形成网络灰黑产业链。多个自媒体散布“2025年高考答案流出”“考生高考作弊家长用钱摆平”等谣言，误导考生及家长。编造“贵州榕江洪灾造成13人死亡2人失联”“云南德宏遭遇严重洪灾”等虚假信息，炮制“河南驻马店物流港爆炸致50人死亡”“深圳地铁11号线爆炸”“四川九寨沟景区发生大巴坠崖事故”等谣言，引发社会性恐慌和公众误判。

二是信息茧房加重认知偏差和情绪极化，批判性思维和差异化选择受到限制。凭借“数字脸谱”迎合个体偏好的算法操控，因“越刷越精准”增强了信息茧房的回音壁效应。在高度同质化的信息链条中，长期与相似观点的人群进行互动，非常容易加深固有观念和刻板印象。部分资本掌握平台的内容生产、流量分发规则，并将其用于社会热点事件的议程设置、节点引爆、情绪操纵和节奏引导，导致不同群体之间的隔阂和冲突加深。例如，2025年5月，“上海虹桥高铁站拦门事件”视频引发广泛关注。旅客被车门夹住的场景配以“车门夹人”“拦门闹剧”标签迅速传播。自媒体刻意强化“上海”“高铁冲突”等关键词，利用公众对不文明行为的痛感制造对立，瞬间点燃网民愤怒情绪。但根据铁路部门通报，该旅客系因突发身体不适匆忙下车，且经妥善处置并未影响列车正点发车。这场舆论风波反映了自媒体断章取义的流量狂欢、网民情绪化审判的惯性思维及平台算法对碎片化信息的推波助澜。信息茧房以标签化叙事替代理性追问、以情绪宣泄压倒事实核查、以虚假共识制造群体对立，导致“谣言跑在真相前面”。

技术霸权产生新型“数字殖民”，加剧意识形态渗透和政治认知操控

一是技术霸权成为认知颠覆的侵略工具，增加了意识形态安全治理难度。生成式人工智能正成为境外势力投毒虚假信息、窃取关键数据、挑拨意识形态、威胁他国安全的隐形武器。根据国家安全部发布的信息，某境外反华敌对势力通过深度伪造技术生成虚假视频，企图向境内传播误导性舆论、制造恐慌，对我国国家安全构成威胁；因开源库发生故障，某境外AI模型的部分用户可以看到其他活跃用户聊天记录中的名字、支付地址等隐私信息，如不注意防范，相关人员信息可能成为境外间谍情报机关实施拉拢策反、渗透破坏活动的指引，进而危害国家利益；个别西方国家和境外势力通过批量操纵账号，在社交媒体大肆发布特定观点或情绪化内容，妄图利用性别对立、劳资纠纷等议题进行渗透破坏、影响社会和谐稳定。

二是技术渗透操控国际舆论博弈，引发意识形态偏移风险。布鲁金斯学会评论文章《人工智能的政治：ChatGPT和政治偏见》指出，ChatGPT存在政治偏见。华盛顿大学、卡内基-梅隆大学和西安交通大学的研究发现，人工智能模型具有差异化的政治偏好。部分国家利用AI在敏感问题上输出具有特定指向的内容，为唱衰中国经济、制造认知分歧提供便利。部分AI呈现系统性偏向西方倾向，当使用英文就历史归属问题进行提问时，回答中存在明显的回避、淡化客观史实问题，甚至输出暗含错误信息或引发歧义的内容，意在通过大模型加剧历史分歧，解构国家安全根基。

防范生成式人工智能引发舆论风险的对策建议

清源流：建立信息溯源、全链路监测和联动处理机制，管控虚假信息生成源头

一是防范数据污染和AI幻觉，加固安全防护体系。一方面，确保训练数据客观准确、去污降噪，防止AI模型带毒输出。应以《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律法规为依据，完善数据分类分级管理制度，要求数据供给方、标注方、模型方落实数据清洗、敏感内容过滤义务，使用真实、准确、客观、多样且