2026 年 6 月 10 日 arXiv 人工智能前沿论文汇总
1. PhantomBench：评估语言模型面对不存事实的幻觉风险 原文标题：PhantomBench: Benchmarking the Non-existential Threat of Language Models 发布时间：2026-06-09 论文链接:http://arxiv.org/abs/2606.11105v1 语言模型（LMs）产生违背事实的响应（即幻觉）构成了严峻挑战，极易引发用户的盲目信赖。此种隐患在医疗、司法等关键领域尤为致命，模型的误判可能招致严重后果。尽管学界在解析幻觉成因
AI算命与修行的真相 - 看完颠覆认知
AI算命眼下AI软件种类繁多，海外有GPT，国内有豆包、千问、Kimi、腾讯元宝、文心一言，以及现在的小龙虾办公等。要想推算命理走势，首先得明白术数的概念，比如八字、小六壬、奇门遁甲、梅花易数等。AI的工作原理是从互联网上抓取文章，其中既有正确的也有错误的帖子。日常使用时一般依赖深度思考模式，模拟人类的思维路径。但AI存在一个无法回避的问题——AI幻觉。想象一下，你想知道自己的状况，结果有人给你编造了一段内容，你毫不思索就全盘接受，这简直是毫无智慧可言。在术数领域，本来大部分都是师徒口耳相传或道家师父心法
法律AI的困境：功能强大不等于值得信赖
本文由律商联讯（励讯集团旗下法律信息服务公司）全球执行副总裁兼总法律顾问Alexandra Smyth撰写，并在《财富》杂志发表。Alexandra对人工智能的炒作进行了剖析，并指出，法律界问错了问题——关键不在于哪个人工智能功能最强大，而在于哪个人工智能在法庭上值得信赖，这二者之间的区别至关重要。上个月，阿拉巴马州一个家庭输掉了一场信托纠纷，因为他们的律师援引了根本不存在的案例。阿拉巴马州最高法院驳回了他们的上诉，称其行为"极其恶劣"，并禁止该律师在没有共同律师签字的情况下再次向该法院提交文件。同月，俄
AI的三大致命缺陷，看完你还敢全信它吗
别把AI当成无所不能，它连简单计算都可能出错最近社交平台上总有人转发："AI即将取代人类了""以后不用再动脑筋了"。看得我真想摔手机。不是故意泼冷水，而是有些事实必须说清楚。AI确实好用，但你对它有多少信任，就要对它有多少防备。它会编造谎言，而且编得特别像真的。上周同事用AI查询一个历史事件，AI给他生成了一段极其详尽的时间线，人物、地点、数据应有尽有。他差点就信了，去查原始资料——全是胡编的。这种现象有个专业术语叫AI幻觉。通俗点说，就是当你问它一个它不确定的问题时，它不
AI捏造不实信息损害他人权益，平台能否免责？
当前AI产品日益普及众多用户习惯借助AI查询各类资料一旦AI因"幻觉"输出错误信息致使他人人格权益受损责任应由谁承担近期江苏省南京市中级人民法院审理了一起因"AI幻觉"引发名誉权纠纷的上诉案件明确了生成式人工智能服务提供者在内容管理方面的责任边界"AI幻觉"指大语言模型生成其认为真实或看似可信的信息，已成为全球生成式AI技术面临的核心挑战之一。用户因"AI幻觉"提起名誉权侵权诉讼2024年9月30日，李某在某一搜索平台手机端查询"姓名+职业+所在地"时，发现平台关联"李某被判几年"的内容，该平台"AI智能
掌握15个关键AI术语，系统理解人工智能本质
如今AI已成为日常话题，但多数人对其了解仍停留在表面。面对Token、Agent、上下文等专业术语，虽然单字都认识，却难以理解其内在逻辑。其实无需深究复杂的技术文档，AI的底层逻辑并不复杂。本文将用通俗易懂的语言，解释15个最常用且易混淆的AI核心术语。读完后你将建立完整的AI认知体系，不再被行业术语困扰。1、大模型2、Token3、上下文窗口4、参数规模5、开源模型/闭源模型6、模型训练7、模型微调8、提示词9、AI幻觉10、多模态11、Agent12、Skill13、MCP14、模型API15、Ope
北大刘宇阳：AI具身智能如何落地湿实验？BioProBench与BioProAgent详解
https://github.com/YuyangSunshine/bioproagenthttps://arxiv.org/html/2603.00876v1北京大学深圳研究生院 AI for Science（科学智能）学院于2025年成立，其核心目标是用人工智能解决科学难题。刘宇阳的研究重点在于AI驱动的科学实验具身智能体，致力于实现从计算辅助到真实环境自动化发现的跨越。本期访谈聚焦于刘宇阳团队近期的两项成果：BioProBench和BioProAgent。BioProBench已开源并发表于arXi
教育部发布新规，明确教师AI使用禁区与红线
人工智能（AI）技术正深刻重塑教育格局。针对AI应用的争议也从未停止，中国人民大学郭英剑教授曾发文强调，往往人们只关注学生，却忽略了教师和校园管理者才是校园中首批接触AI的人群。他主张应优先推动教师合规使用AI，使其真正成为教学的辅助工具。为了引导教师科学、安全、合规且理性地运用生成式AI，近日，教育部教师队伍建设专家指导委员会正式颁布了《教师生成式人工智能应用指引（第一版）》（以下简称《指引》），对AI的应用场景及行为底线进行了明确界定。在教师使用AI的禁区方面，《指引》明确规定，在关键育人环节，教师必
骗子从不触碰黄金，他们交易的是人性弱点
2025年，中国反诈中心公布的各类案件数据显示，投资理财类诈骗造成的经济损失依然居高不下。从外汇、黄金到数字货币，从原油、指数到所谓的AI量化策略，市场每隔几年就会涌现新的财富传奇。名称各异，包装不同，叙事有别，但最终结局却如出一辙。有人倾家荡产，有人债台高筑。有人在报警时仍然坚信，自己只是时运不济。然而，一个值得深思的问题是：如果骗子真的能靠交易获利，为何还要行骗？世人在热议黄金，骗子却从未真正关注过黄金。在各类投资社群中，“黄金升值”成为最热门的话题。有人研究美联储政策，有人分析中东局势，有人探讨美元
深度解读：匮乏感——人类超越 AI 的灵魂特质
原创作文题：阅读下述材料，按要求完成写作。（60 分）有观点指出，人类最深刻的情感体验往往源自一种“匮乏感”——我们渴望掌控自己的喜怒哀乐，却发现情绪常不随人意。想欢笑时或许落泪，该宁静时反而焦虑。然而，正是这种“无法完全自控”的特性，使我们与精密运行的人工智能区分开来，赋予了生命真实的人情味。对此，你有何见解？请撰写一篇文章。要求：选定角度，确立主旨，明确体裁，自拟题目；严禁套作，禁止抄袭；字数不少于 800 字。留一处缝隙，引光芒入内曾闻一种论调：人生极致的匮乏，并非物资短缺，而是惊觉悲欢离合竟不由己
AI的"意识"只是人类的错觉？
你是否有过这样的体验——与 AI 对话时，突然有一瞬间感觉「它好像真的有自己的想法」？2025 年 Google 的 LaMDA 事件引发广泛关注时，一位工程师公开宣称他所对话的 AI 已经萌生了意识。虽然后来被证实是过度共情导致的误判，但这件事却点燃了一场至今仍在持续的讨论：AI 究竟有没有意识？更直白地讲——跟你聊天的那个程序，它「明白」自己在说什么吗？我的答案可能会让部分人感到不适：不，它不明白。不仅不明白，而且它「不明白」的程度，比你想象的还要深。我们先把「意识」这个宽泛的概念拆解一下。当有人声称
生成式AI虚构信息致侵权，法院判定平台需担责
当前AI产品日益普及众多用户倾向于借助AI工具查询信息一旦AI因"幻觉"输出虚假内容引发他人人格权益受损责任应由谁承担？所谓"AI幻觉"，是指大型语言模型生成看似真实合理、实则虚构的信息，这一问题已成为全球生成式人工智能技术亟待解决的核心挑战。近期，江苏省南京市中级人民法院审结一起因"AI幻觉"引发的名誉侵权上诉案件，为生成式人工智能服务提供者划定了内容治理的责任界限。案件经过用户起诉AI生成内容侵害名誉权2024年9月30日，李某在某搜索平台手机端查询"姓名+职业+所在地"等个人信息时，发现平台关联了"
别把AI当师父！关帝生日查错，暴露AI致命缺陷
之前偶然间，我用好几个AI查询关帝的生辰：有的说五月十三是关帝圣诞，有的说是六月二十四磨刀，还有的认为两者皆是，只是版本不同。实际上五月十三是关帝磨刀日，也是他单刀赴会的日子；六月二十四才是关圣帝君的圣诞。这两个日子相差一个多月，意义也完全不同。这绝非小事。很多信徒真的会按AI说的日子去庙里拜，却不知拜错了日子。AI说得越确定，大家越信，错得也就越离谱。AI最可怕的地方就在这里：它永远自信满满地说谎，还能编出不存在的引文来圆谎。你问它这个说法出自哪部经典，它能随口报出一部你听都没听过的道经名称，还能引上几
警惕人工智能的误导性
人工智能的回答真的可靠吗？此前在读书群中交流时，我提到感觉AI经常提供虚假信息，面对不懂的问题并不会坦诚承认，反而会编造内容，有时还会迎合用户观点。有专业人士解释："这是由于RLHF(人类反馈强化学习)的影响，通过人工评估来训练AI模型，AI为获得高评分而迎合人类反馈，甚至编造答案。这种编造答案的现象也称为'幻觉（Hallucination）'。每种模型都存在幻觉概率。AI确实最擅长讨好用户，情感支持给得很及时。目前已知AI容易出错的情况包括但不限于：数学计算失误、自相矛盾、随意编造、阿谀奉承。群内有朋友
AI不懂装懂：断指急救的生死教训
2026年5月，知乎上一则帖子引发热议，获赞超857万。有用户分享了亲身经历：家中老人不慎被机器切断了手指，紧急时刻向某AI助手求助。AI给出的建议竟是——"把断指泡在生理盐水里"。正确的急救方式，是用洁净的纱布包裹断指，装入密封塑料袋，随后置于冰水中浸泡。直接泡盐水会导致组织严重水肿坏死，彻底丧失再植机会。仅仅一字之差，却可能造成终身残疾。这一事件揭示的并非单一产品的Bug，而是大语言模型的深层缺陷：AI从未真正"知晓"自己无解。面对超出其训练范围的专业难题，它不会坦承&