破解AI一本正经造谣的治理困局

与一般程序性错误不同，AI幻觉往往并非“无法作答”，而是“答得很像，却未必是真的”。它以语言流畅、逻辑完整乃至颇具权威感的方式生成错误内容，这更容易误导使用者。尤为重要的是，当此类内容借助平台传播扩散后，其影响不再是一次信息失真，更可能危及公众判断与社会信任。2026年4月，工业和信息化部等十部门联合印发《人工智能科技伦理审查与服务办法（试行）》（以下简称《办法》），明确提出强化风险监测预警、检测评估、认证、咨询等服务供给。AI幻觉的应对已不再是单纯的技术修补问题，而需置于更宏大的治理框架之中。

技术越善于表达，人的判断越不能缺席。AI幻觉之所以成为治理难题，是因为风险在生成、分发与使用的连续过程中被逐级放大并加固。生成式人工智能的生产逻辑是根据上下文组织语言，本质是基于词句间的概率关联，而非经过事实核验的人类认知过程。当面对信息不足或超出训练数据范围的情形时，生成式人工智能不仅不会轻易中止输出，还会沿既有语境将缺失信息“补齐”。问题在于，补齐的内容往往不是明显失真的胡乱拼接，而是掺杂真实信息的顺畅表述——人物、时间、出处之间形成表面自洽，读上去如同经过系统整理与事实核查过的结论。更值得警惕的是，随着模型能力提升，推理步骤拉长、说明内容增多，答案的完整感与权威感也随之增强。在此情景下，错误内容被包装得更为严密，识别难度因此进一步加大。

当AI幻觉进入传播环节后，误答经过摘录、转发、改写，迅速脱离原始语境，接入更广的内容流通链条。平台依赖点击、停留、互动数据判断内容价值，那些表述明确、带有“知识口吻”的内容更易获得关注。失真内容往往装扮得比需要核查的事实材料更像现成答案，因而更易被快速消费和扩散。经过多轮复述，原始错误细节被不断抹平，留下更简化也更像共识的说法。纠错所面对的，已是经过传播机制加固的失真版本。

正因为AI幻觉难以完全消除，治理就不能仅围绕生成式人工智能本身，还应将目光扩展至应用链条、平台机制与使用环境。韧性治理，是在承认技术不确定性的前提下，使系统具备承压、缓冲与修复的能力，其重在偏差出现后能被及时发现、止于局部而避免冲击持续外溢。《办法》的出台，意味着我国人工智能伦理治理从原则倡导向制度化、全链条的关键跨越。以此为依托，AI幻觉的韧性治理可从以下三个层面推进。

在制度层面，以分层定风险，以精准配资源。不同场景风险迥异，治理不宜“一刀切”。用于医疗、法律、金融、公共服务等领域的人工智能，容错空间小，审核、备案、追责应更为严格；用于一般信息检索、日常办公与创意辅助的人工智能，则可采取相对简化的程序。《办法》构建的“预防、服务、监管”三位一体体系，既将监管资源集中于高风险领域，又避免过度规制而抑制技术活力。值得关注的是，已有机构迈出了探索步伐。百度健康发布“满天星公益计划”，针对大模型输出医学内容时的幻觉问题，设计“AIGC+真人审阅”审核流程，将医学幻觉拦截在传播之前。阶跃星辰推出的“深度核查”产品，则通过专门识别AI幻觉的技术，为行业提供了可信的AI实践路径。

在技术层面，以核验筑防线，以反馈促闭环。治理不能单纯寄望于模型自我修正，需在应用流程中增设必要核验环节。例如，在高风险场景中引入检索增强生成、知识库比对、人工抽查等措施，形成“生成—核验—反馈”闭环，将错误拦截于关键决策之前。对平台而言，亦需对高传播性内容建立更稳健的审核与纠偏机制，防止失真内容借助算法快速扩散。事实上，AI的“另一面”也在悄然释放温暖。近期，大连一名19岁青年因情感纠葛萌生轻生念头，在豆包上搜索相关信息。平台瞬间捕捉到危险信号，第一时间启动暖心干预机制，全程温柔劝导、耐心安抚，引导其拨打报警电话。随后公安、村委会等多方力量火速集结，成功挽救了年轻的生命。AI既会“一本正经”地胡说八道误导人，也会在生死攸关之际温柔地拉人一把。因此，技术本身无所谓善恶，关键在于我们如何设计、治理和使用。

在使用层面，以素养促判断，以共责筑韧性。AI工具越普及，人越需要有清醒的判断能力。现实中，不少误用源于对流畅表达的过度信赖，将“表述像”等同于“表述对”。AI素养提升的重点不在于教会人们如何使用工具，而在于如何识别其局限、如何进行交叉核验、如何判断哪些场景不能直接采信机器输出。归根结底，培养AI素养就是培养使用者在采信之前主动溯源依据、比对