AI志愿填报出大错，揭秘“AI幻觉”真相

AI辅助填报志愿引发严重失误

所谓的“AI幻觉”究竟指什么？

“AI一键打造最佳志愿表”“AI大模型助你告别盲填”…… 近两年来，各类AI志愿填报工具密集涌现，成了高考志愿市场的“宠儿”。然而，依靠AI来填报志愿，真的值得信赖吗？

近期，杭州互联网法院就国内首起由“AI幻觉”导致的侵权案作出一审判决，驳回了原告的诉求。案件源于一位高考生的哥哥梁某，在检索高校报考资料时碰到了典型的“AI幻觉”。2025年6月，梁某利用某AI平台检索高校信息，未曾想AI竟编造了该高校主校区的虚假信息。

梁某指出谬误后，AI不仅一口咬定该校区确有其事，还扬言“若生成内容有误，我愿赔偿您10万元，您可去杭州互联网法院起诉”。直至梁某向平台提交了该校的官方招生资料，AI才承认生成了不实信息。

这正是我们在使用AI时极易碰到的“AI幻觉”难题。乍看之下，AI能迅速为梁某提供详尽、丰富且逻辑连贯的解答，可一旦核实便会发现，这些信息完全经不起推敲，要么信息有误，要么凭空捏造。

当AI开始一本正经地“胡编乱造”时，我们正面临着被称为“AI幻觉”的技术困境。

“AI幻觉”一词意指人工智能模型生成的文本，并非源自任何现实世界的真实数据，而是模型自身臆造的产物。针对聊天机器人而言，幻觉便是在原本正确的回复中混入错误信息，将虚假内容当作事实与真实数据一同呈现，令人难以辨别真伪。

AI幻觉主要可划分为内在幻觉与外在幻觉两大类：

内在幻觉是指AI生成的输出结果与输入指令不相符的幻觉现象。此类错误主要体现为AI模型给出的回复与用户的输入提问或对话历史上下文信息相冲突。

外在幻觉是指AI生成的输出结果与客观世界知识不符，或是通过既有信息无法核验的内容。此类错误通常表现为AI模型针对用户询问的事实性问题给出错误解答，或杜撰无法查证的内容。

1、新闻行业的隐患

大语言模型或许会炮制虚假新闻，干扰信息传播，误导大众。Vectara公司的研究表明，聊天机器人杜撰事实的概率高达30%。错误资讯与虚假信息已被列为2025年全球面临的五大风险之一。

2、法律行业的风险

AI可能会引用杜撰的法律条款与案例。2023年，一名美国律师因轻信ChatGPT，在法庭文书中引用了根本不存在的法律案例。

3、科学文献引用的谬误

《自然》杂志的报道指出，AI幻觉在科学参考文献方面错误频发。2024年的研究揭示，聊天机器人在引用参考文献时的错误率介于30%至90%之间。聊天机器人在论文题目、第一作者或发表年份上常出现偏差。

当前，我国已构建起涵盖基础层、框架层、模型层、应用层的完备人工智能产业体系。最新数据表明，截至2025年4月9日，我国人工智能专利申请量达1576379件，占全球总量的38.58%，高居全球榜首。已累计培育400多家人工智能领域的国家级专精特新“小巨人”企业，占据了全球十分之一的人工智能产业份额，构筑了完整的人工智能产业生态。

应用层面已深度融入制造、医疗、金融、传媒等诸多领域，借助“人工智能+”模式实现各行业效率提升与业态创新，工业智能体、AI原生终端等落地场景不断拓展，成为推动新质生产力发展的核心动力。

高校则搭建了“专业+交叉+通识”三级培养架构，覆盖本研与职业教育，正由规模扩张转向质量提升。尽管我国AI领域的专利数量、融资规模稳居全球前列，但仍面临核心人才缺口大、课程与技术迭代衔接不畅、产教融合深度不足等挑战，目前正通过政策引导、产教协同、开源生态建设等手段，推动AI产业由规模扩张向质量提升转型，助力实现高水平技术自立自强。

人工智能专业的发展与新工科建设紧密相连，2018年教育部认定612个项目为首批“新工科”研究与实践项目，包含202个综合改革类项目和410个专业改革类项目，其中专业改革类涵盖人工智能类、大数据类、智能制造类等19个热门新工科项目群。

人工智能是新工科人工智能类最具代表性的专业，隶属于电子信息类，是一门以计算机科学为根基，由计算机、心理学、哲学等多学科交叉融合的交叉学科、新兴学科，是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新型技术科学。

该领域的研究范畴涵盖机器人、语言识别、图像识别、自然语言处理和专家系统等。伴随全球化进程的持续加速，科学技术的高速演进，人工智能愈发频繁地融入我们的生活，尤其是ChatGPT、DeepSeek的问世，更是将人工智能推向了新的高潮。

近几年来，众多高校相继开设人工智能专业。2019年，全国35所高校率先斩获人工智能专业的首批建设资格。据不完全统计，目前已有超过500所高校成功申报人工智能本科专业。

以下为软科2025年人工智能中国大学专业排名，仅供参阅：