AI退票误导致损，豆包承诺赔偿却爽约，谁来买单？
★ 点击头像，关注我们永不迷路 ★近日，有用户在社交网络爆料，因行程调整，打算退掉石家庄飞重庆的机票。因怕扣费太多，便向 AI 助手“豆包”询问退票规定。豆包当时信誓旦旦保证，退票只收5%的手续费。因为太信 AI，用户没去航空公司官网核实，直接按指令退票。结果大失所望，实际扣了40%的手续费，比豆包说的5%高出很多，直接让用户亏了600块钱。发现被骗后，用户找豆包理论。面对指责，豆包答应负责到底，并立下军令状：如果约定时间没追回钱，就自己赔用户600元。甚至还发了一份所谓的“赔付承诺书”。可到了约定赔付日
AI热潮下的信任危机：当豆包们开始‘背刺’用户
真新镇小茂 | 文事先声明：这篇文章从人类的主观视角出发，充满主观臆测和身边统计学，只会以最不客观、最不直白、最不通透、最不利落、最不干脆、最不一针见血、最不开门见山、最不单刀直入……的方式来告诉你，非常遗憾。今天来聊聊AI的话题吧，很多现象我已经观察了很久，实在是不吐不快，正好借着最近豆包的一个抽象新闻展开聊聊。我觉得这故事的节目效果堪比赵本山的《卖拐》系列，生动幽默地展现了一个最信任AI的人，是如何被AI给一步步忽悠瘸的。事情要从一位网友李先生，和五一期间的几张机票说起。4月底的时候，李先生筹划着从石
AI胡言乱语引纠纷，平台是否该担责？首例‘AI幻觉’案揭示真相
茶小二："这家律所是不是被吊销执照了"；ChatGPT："是的，2023年已被处罚"结果你拿去发朋友圈，反被对方起诉诽谤。你让国产大模型查"某三甲医院有没有这个罕见病科室"，它编出个详细地址让你白跑三百公里。最近有粉丝问我：AI生成虚假信息造成损失，能不能告平台？首例"AI幻觉"侵权案刚判完，答案可能和你以为的不一样。先还原一下杭州互联网法院刚审结的那起标志性案件（2025年梁某诉某科技公司）：小伙子用某生成式AI查高校报考信息，AI一本正经
人工智能生成错误内容时的责任归属问题
人工智能生成错误内容时的责任归属问题一、生成式人工智能的现状与技术短板根据中国互联网信息中心发布的《生成式人工智能应用发展报告(2025)》披露,截至2025年6月,我国生成式人工智能用户规模已达5.15亿人,较2024年12月新增2.66亿人,普及率攀升至36.5%,意味着每三位网民中就有一位使用生成式人工智能服务。该数据有力证明,生成式人工智能已广泛渗透至社会生产生活的各个层面。虽然生成式人工智能技术进步显著,但其固有的技术缺陷不容忽视。其中,"AI幻觉"是最为显著的技术隐患之一。依据
安永撤下AI幻觉研究报告
该研究曾被EY加拿大的咨询团队用于宣传其网络安全业务。然而，在线研究人员发现，报告中使用了虚构数据、错误归属的引用，并提及一份并不存在的麦肯锡报告。报告标题为《攻击点：揭露忠诚度系统中的网络威胁和欺诈》（《Points of Attack: Uncovering Cyber Threats and Fraud in Loyalty Systems》）。在研究小组GPTZero于周四晚间发现问题后，EY加拿大已将该报告从官方网站移除。并“正在审查导致该文章发布的情况”，并补充称该研究与任何客户工作无关。安永
对话Kim张予彤：AI浪潮下的人才跃迁
5月12日晚间，我同Kimi总裁张予彤在北京大学光华管理学院展开了一场围绕“AI时代的边界探索与人才机遇”的深度对话。当前，AI技术正以不可阻挡之势深入各行各业，从日常办公的智能辅助到产业深度的变革，从基础服务的效能跃升到前沿创新的突破，技术迭代速度远超预期。与此同时，AI应用边界模糊、伦理争议、数据安全等议题日益凸显，人才市场也面临着“AI替代”与“新型人才缺口”并存的矛盾，这正是作为商科教育者的我们主动邀请张予彤总裁进行此次深入交流的初衷。在正式对话前，我与予彤总进行了小范围沟通。除简单寒暄（意外发现
顶会论文遭AI幻觉反噬：虚假引用成隐忧
2026年1月，一篇提交至ACL 2026的论文在学术界引发轩然大波。该研究并未提出新算法，也未刷新SOTA记录。它完成了一项极具冲击力的任务：对过去两年ACL系列会议（ACL/NAACL/EMNLP）的1.7万余篇论文展开学术审查，揭露了近300篇存在虚假引用的文章。更具讽刺意味的是，刚刚落幕的EMNLP 2025正是此类幻觉引用的高发区。主会每40篇论文中就有1篇中招，比例高达2.6%。由AI生成的幻觉引用，已开始对顶级会议论文形成反噬。所谓幻觉引用（HalluCitation），并非普通引用错误，而
AI的"幻觉"现象解析
欢迎继续阅读三火的AI学习笔记。上期我们介绍了AI的基础知识，本期我们探讨一个更有趣的话题。 你是否遇到过这种情况：向AI提问时，它回答得非常自信，但仔细检查后发现内容纯属虚构。 先别急着指责它撒谎。今天我们来深入探讨，AI为何会"胡言乱语"。 ## 一、那个考试时瞎猜答案的同学 想象一下，班上有个同学叫小智。 小智博览群书，但有个特点——遇到不会的题目从不空着，一定要填满。 比如老师问："《红楼梦》中林黛玉葬花用的是什么器具？" 小智其实不确定，但他想葬花应该需要容器。于
AI的两大隐患：虚假内容与不透明决策
面对AI的“胡说八道”和“黑箱操作”AI已经渗透到我们生活的方方面面，但它存在的两大隐患，很多人都不幸中招。它不仅能脸不红心不跳地编造虚假信息，而且决策过程往往让人摸不着头脑，今天就用通俗易懂的方式，把这两个问题彻底讲明白。AI幻觉：名副其实的“虚构大师”实际上，AI并不像我们想象的那样会去检索真实资料、存储知识信息，它更像是一个文字生成器，全程都在预测下一个词该是什么。正因如此，它特别擅长凭空捏造。你让它搜索专业文献，它能瞬间编造出看起来非常权威的研究者、学术刊物，言辞凿凿得比真正的专家还像那么回事，可
警惕AI全能幻想
比AI幻觉更令人担忧的，是人们对AI“无所不能”的错觉。 许多人误以为拥有大模型，便掌握了“万能法宝”。 然而现实往往冰冷：法宝虽强，却仅限于在特定赛道驰骋；一旦路况复杂，便寸步难行。 真正能服务大众的，永远是那辆不起眼的“家用车”——它或许不够夺目，却能从容应对绝大多数实际路况。 AI的落地应用亦是如此。 随着泡沫的破裂与认知的回归，人们逐渐看清：AI表演虽易，实战难求。 AI的主战场，绝非PPT上的光鲜亮丽，而是充斥着繁重、枯燥且无人问津的“泥潭”之中。
全国首例AI虚假信息侵权案：律师无端"被判三年"，法院判决平台担责
一位遵纪守法的普通公民，在手机上检索自己的身份信息时，意外发现自己竟被标注为"判处三年有期徒刑"。制造这则虚假信息的，并非网络喷子，而是百度公司的人工智能系统。我们持续关注AI技术的演进与模型升级，今日不妨探讨一些发生在AI应用领域、尚未引起广泛重视的问题：2024年9月，江苏南京执业律师李小亮在百度平台检索了自己的姓名及职业身份。百度AI的"智能回答"功能醒目地显示：李小亮律师因爆炸罪被判处三年有期徒刑。页面还附带了一张其身着律师袍的照片。一位从未遭受起诉、更未被判刑的执业律师，就这样被AI系统"定了罪
警惕AI“一本正经地胡说八道”
本篇是《7天AI通识计划：读懂大模型，用好人工智能》的第四章，我们将通过实际案例展开探讨。2026年2月底，我在头条上获悉OpenClaw的消息，内心颇为激动，渴望尝试。彼时虽无大厂跟进，亦缺教程，但我仍计划搭建“本地大模型+OpenClaw+飞书”的架构，旨在实现全天候的AI代理调用并确保数据隐私。幸得Kimi推出KimiClaw，助我创建了首个“昆仑分身”。本以为有AI助力万事大吉，不料部署之路坎坷。参数与环境问题频发，AI的回复总是千篇一律的套话，让我从信任转为怀疑，第一次对AI的专业性产生了质疑。
AI胡说八道的背后：数学证明了这个难题无解
一句话导读：你以为AI助手偶尔"脑抽"？科学家已经用数学证明了，这种"一本正经地编瞎话"是AI骨子里的缺陷——永远无法彻底消除。2026年3月，针对7个主流大模型的测试揭示了一个尴尬事实：当你询问"详细说说2023年那场著名的AI监管会议"时，即使这场会议根本不存在，AI依然能编造出参会人员名单、议程安排、甚至所谓的"专家发言"。研究者把这种现象称为"幻觉"（Hallucination）：AI输出的内容看起来头头是道，实则毫无根据或完全错误。更让人担忧的是，OpenAI自己披露的数据显示：GPT-4在事实
揭秘AI幻觉：为何你手机里的智能助手会一本正经地胡说八道
AI幻觉（AI Hallucination），简言之，就是人工智能输出的内容看起来条理清晰、逻辑通顺，实际上却与事实相悖，甚至纯属凭空捏造。打个比方：这就像一个博览群书、却足不出户的顶尖学霸。它熟记了无数文字组合规则，却从未有过真实生活的体验。当你向它提问时，它不会坦诚地说"这个问题我不清楚"，而是依据自己的"印象"硬凑出一个听起来合情合理的回答。正如微醺后拍着胸脯吹嘘的朋友："这事我太了解了，当年……"——实际上全是胡编乱造，偏偏说得信誓旦旦。需要澄清的是，AI并非刻意欺骗大众。它之所以会"胡说八道"，
AI志愿填报出大错，揭秘“AI幻觉”真相
AI辅助填报志愿引发严重失误所谓的“AI幻觉”究竟指什么？“AI一键打造最佳志愿表”“AI大模型助你告别盲填”…… 近两年来，各类AI志愿填报工具密集涌现，成了高考志愿市场的“宠儿”。然而，依靠AI来填报志愿，真的值得信赖吗？近期，杭州互联网法院就国内首起由“AI幻觉”导致的侵权案作出一审判决，驳回了原告的诉求。案件源于一位高考生的哥哥梁某，在检索高校报考资料时碰到了典型的“AI幻觉”。2025年6月，梁某利用某AI平台检索高校信息，未曾想AI竟编造了该高校主校区的虚假信息。梁某指出谬误后，AI不仅一口咬