标签

生成式AI认知偏差的意识形态隐患与综合防控策略

作者:张国启教授@ 摘要生成式人工智能系统在内容创作过程中产生的系统性偏差现象,源于技术架构本身的内在特性,呈现出高度的迷惑性与广泛的社会渗透力。AI认知偏差不仅引发事实陈述与逻辑推演的错误,更在深层次上催生出动摇公众认知根基、充当意识形态操控工具、瓦解历史记忆与文化认同等多元化的意识形态安全隐患。针对这一全局性难题,需要构建融合技术层面的算法修正、制度层面的规范约束以及社会层面的认知培育的综合防控体系,在推进人工智能技术创新的同时,切实保障意识形态安全与数字社会的价值共识。@ 阅读导引一、AI认知偏差现

2026-07-19 12:13:38  |  13 阅读

美联邦贸易委员会拟新规:遏制AI输出被人为扭曲,统一各州监管标准

2026年7月1日,美国联邦贸易委员会(FTC)发布《关于抑制人工智能系统准确性的拟议政策声明》(Federal Trade Commission's Proposed Policy Statement Concerning The Suppression Of Accuracy In Artificial Intelligence Systems),面向公众征求意见。这将是美国政府在人工智能治理领域的又一重要举措。该政策旨在明确《联邦贸易委员会法》(FTC Act)第五条在AI领域的适用规则,重

2026-07-05 17:33:38  |  36 阅读

AI认知偏差的意识形态隐患与综合应对策略

张国启教授摘 要AI认知偏差是生成式智能系统在内容产出过程中出现的系统性扭曲现象,具备内嵌于技术架构、呈现高度迷惑性及社会扩散性等特征。AI认知偏差问题不仅引发事实与逻辑谬误,更在深层意义上衍生出动摇社会认知根基、充当意识形态操控的隐性载体以及消解历史记忆与文化认同等多维度的意识形态风险。为应对这一系统性挑战,需要构建涵盖技术源头的算法纠偏、贯穿应用流程的制度规范以及培育社会认知共识的综合性治理框架,从而在推进AI技术发展的同时,有效维护意识形态安全与数字时代的社会共识。阅 读 导 引一、AI认知偏差现象

2026-06-29 20:09:56  |  13 阅读

人工智能学院学生党支部举行全体党员大会

人工智能学院学生党支部召开支部全体党员大会为深入学习宣传贯彻党的二十届四中全会及全国“两会”精神,落实“树立和践行正确政绩观学习教育”相关要求,按照学校党委关于“五月主题党日活动指导”通知要求以及党员发展流程要求。充分激发青年学生积极向党组织靠拢的行动自觉,全面提升大家的干事创业综合能力,以党建引领赋能学校、学院各项事业高质量发展,5月27日,人工智能学院学生党支部召开支部全体党员大会。在“第一议题”学习环节,全体党员集中学习《习近平关于树立和践行正确政绩观论述摘编》,深入领会真抓实干的核心要义,明确要将

2026-05-30 21:44:01  |  13 阅读

老挝越南深化媒体合作,聚焦AI与人才培养

《观点评论》老挝与越南在媒体领域的协作正逐步走向务实:一是技术驱动,二是能力提升,三是思想协同。双方明确将引入人工智能工具用于信息管理,以识别和应对虚假内容,这体现了老挝在数字化进程中借助外力提升治理效能的战略意图。同时,未来五年内规划的15个培训项目,也反映出媒体人才不足问题已受到重视。这种合作不仅限于技术引进,更强调“指导方针”的核心地位——胡志明思想与凯山丰威汉思想被共同确立为思想文化工作的基础。这凸显出老越媒体合作具有强烈的政治导向:一方面联合抵御所谓“负面舆论”和“虚假信息”,另一方面也为维护两

2026-05-15 11:46:25  |  13 阅读

AI“投毒”隐患重重,需严加防范

相关阅读:【保密知识】保密知识应知应会二十题(1)相关阅读:【保密知识】保密知识应知应会二十题(2)相关阅读:【保密知识】保密知识应知应会十题(3)AI“投毒”不仅损害消费者利益、破坏市场规则,还可能给国家政治安全、数据安全及社会安全带来系统性、长期性的隐患。所谓的“数据投毒”,是指将恶意数据伪装成正常样本混入AI大模型的训练数据中,以此达到削弱模型性能、降低准确度的攻击手段。该手段常用于恶性商业竞争,甚至可能牵涉间谍行为,且逐渐表现出链条化、隐蔽化及跨境化的趋势。境外反华敌对势力或许会利用GEO(生成式

2026-05-06 09:21:39  |  19 阅读

警惕境外势力利用AI“投毒”传播谣言,国安部呼吁加强AI治理

本日(4月21日),“国家安全部”官方账号发布文章:AI“投毒”行为,其潜在危害十分巨大!最近,一条隐蔽的AI“投毒”产业链浮出水面,引发了大众的极大关注。这种利用恶意数据污染AI模型的手段,不仅破坏商业秩序、干扰信息传播,更会威胁国家安全。虽然人工智能正在为各行各业提供助力,但其背后的安全隐患同样不可小觑。引导人工智能向善发展,维护数据安全底线,不仅是企业的责任,更需要全社会的共同努力。作案手法隐蔽,产业链条日趋完善所谓的“数据投毒”,是指在AI大模型的训练数据中掺入伪装成正常样本的恶意数据,以此削弱模

2026-04-21 08:27:43  |  33 阅读

智能时代认知博弈:俄乌冲突中的AI应用与影响分析

【内容提要】人工智能与认知域之间的深度“视域交融”使物理域之外的以网络空间为主战场、以立足于人工智能的技术逻辑、以信息传播为核心策略的认知域演变为国家间博弈的新疆域,进一步拓展了国家安全的问题域,使认知安全上升为影响国家网络意识形态安全的关键要素。俄乌冲突中所呈现的认知域博弈正是人工智能技术深度介入军事领域的现实注解。在这场认知战中,技术与传播合奏下的认知争夺构成显性交锋,国际秩序观的较量则构成隐性博弈。明暗线交织下,信息的传播样态不断被技术重构,使公众无意识地陷入到了后真相时代构建的语境之中,其认知被争

2026-04-15 23:04:31  |  8 阅读

AI拟人化服务紧急叫停

AI拟人化服务紧急叫停:虚拟伴侣深夜下架,算法教师需持证上岗随着AI能谈情说爱、算法步入讲台,监管的利剑终于出鞘。2026年4月11日,国家网信办等五部门联合发布的《关于规范人工智能拟人化互动服务的通知》正式落地,将于7月15日生效。01 红线明确:虚拟领域的‘禁令’该文件虽短,却直击AI商业化的痛点。‘禁止向未成年人提供虚拟伴侣’成为最严厉的条款,意味着‘AI女友/男友’在青少年市场的生存空间已被彻底封死。文件规定,拟人化AI服务必须实施分类分级管理,并建立用户身份认证体系。这意味着,打着‘情感陪伴’幌

2026-04-11 16:19:11  |  26 阅读