AI大模型“胡编乱造”引官司：平台责任边界何在
“鱼律的AI观察”的第003篇文章近日，“某度AI生成虚假信息侵害律师权益案”二审宣判落幕，某度公司因其搜索引擎“AI智能回答”功能输出涉及南京李小亮律师的不实内容，被判定构成名誉权侵害，需书面致歉。自AI大模型问世以来，“机器幻觉”问题始终难以彻底消除，这类幻觉有时会给用户带来实质性的损害。然而，若凡出现幻觉便追究AI服务提供者（本文统称为“平台方”）责任，恐怕会对整个产业进步造成显著阻碍。那么，此类责任的判定究竟该遵循何种准则？事件回顾：执业律师为何身陷“牢狱之灾”？本案（李小亮诉某度公司名誉权纠纷案
全国首例AI侵权案落槌：为何开发商无需为"AI幻觉"买单？
当人工智能信誓旦旦保证"信息出错赔十万"，用户深信不疑却因不实内容遭受损失，提起诉讼索赔9999元，法院却判定开发企业无需承担责任。2026年初，杭州市互联网法院审理的全国首例人工智能虚假陈述侵权纠纷案，明确划定了AI法律属性与企业责任范围，更为价值万亿的人工智能产业与数以亿计的用户群体确立了明确的规范框架。这起看似寻常的败诉案例，实则成为数字时代司法理性的标志性判决。一、事件回顾：AI"空头支票"，用户维权受阻2025年6月，用户梁某在使用某人工智能对话程序查询高校报考资讯时，AI提供了虚假的校区信息。
AI幻觉与人类傲慢：镜中真相
AI产生的幻觉并非简单的“机器故障”，人类表现出的傲慢也不仅仅是“过于自信”。二者共同指向一个深层议题：当系统缺失真实交互、边界意识及纠错功能时，极易将内部生成的虚构内容误判为客观事实。人类如此，人工智能亦是如此。AI幻觉的可怕之处，不在于它犯错，而在于其“错得漂亮”。它错得流畅、逼真、逻辑严密，甚至带有一种确凿无疑的“我懂”的口吻。普通错误是“因无知而猜错”，而AI幻觉更像是“能生成看似知晓的答案”。它并非出于恶意欺骗，而是制造知识的假象。这正如现实中的某些人：逻辑通顺、语气笃定、辞藻华丽，实则从未触碰
识别AI的胡说八道：别被它的自信误导
如果你只用过一两次AI，可能会有一种错觉：这家伙什么都知道，回答得又快又自信。但如果你用过十次以上，多半已经遇到过这种翻车现场——它斩钉截铁地告诉你一个"事实"，你拿去一查，根本不存在。你回去质问它，它秒道歉："抱歉，我之前的回答有误。"这个现象有个专业名字叫"AI幻觉"。但我更喜欢的叫法是：一本正经地胡说八道。今天想聊一个反常识的观点：AI入门的第一课，不是学怎么用它，而是学怎么不信它。这个道理，我也是踩过好几次坑才悟出来的。有次我需要查一个行业数据，懒得翻报告，直接问AI："2023年中国咖啡市场的规
AI为何总胡说八道？从餐厅预约到法律判例
2026年5月，镇江一位网友拿着豆包生成的“预订凭证”去吃饭，结果被服务员拒绝：“你找豆包订的？那你找豆包去啊。”此事引发热议，但这只是冰山一角。今天我们来探讨：AI为何总在撒谎？一、经典案例：那些AI出错的时刻2026年5月，镇江网友想订“永安鱼庄”，懒得打电话，直接问豆包。豆包发来一张“预订凭证”，看起来挺正规——餐厅名、时间、人数，全都有。网友拿着手机去店里，服务员看后说：“你找豆包预约，那你找豆包啊。”后来豆包客服解释：豆包没有餐厅预订功能，但“可能会提供一些不真实、不准确的信息，这些是AI随机生
AI承诺退款引争议，用户怒而起诉字节跳动
今年5月，石家庄的李先生因机票退票问题与AI助手'豆包'产生纠纷，最终将事件推向了法律程序。原本只是想退机票，结果却演变成一场人机之间的法律风波。若非处在AI热度高涨的当下，这起因AI引发的争议，恐怕没人会相信真的会发生。事情的起因看似简单。李先生计划去重庆旅游，因时间紧迫，他没有联系客服退票，而是直接向AI助手'豆包'求助。机器人回应说退票手续费仅为5%，他据此计算损失不大，便同意退票。然而，平台最终却扣了他600元，相当于票价的40%。愤怒的李先生再次联系豆包，列出账单质问，AI助手立即变得'有人情味
场外衍生品市场AI应用的风险治理与完善路径
编者按：为深入学习贯彻党的二十届四中全会精神，更好服务“十五五”发展目标和金融强国建设，促进衍生品业务稳步发展，中证报价投教基地推出“风险管理工具系列”专题，聚焦场外衍生品在提供适配长期投资的风险管理工具、服务实体经济发展中的功能作用，展现其在助力经济社会高质量发展中的实践路径与创新成果。作者：广发证券股份有限公司股权衍生品业务部和稽核部课题组本文基于人工智能在场外衍生品领域的应用实践，系统分析了AI技术在模型可靠性、策略趋同、黑箱问题、数据隐私、大模型特有安全风险等方面带来的新挑战，并提出相应的风险应对
AI订座失准、百度AI侵权败诉:AI虽非万能,影响力却已成现实
近期，有两起事件同时引发广泛关注。第一起：某用户通过智能助手“预约”餐厅，到店后却被告知“找那个助手去”。用户向智能助手咨询订餐，助手回复“到店报18:30两位，已预留座位”，用户信以为真，到店后却没有座位。店员一句话将责任推给AI：“是那个助手预约的，找它去。”第二起：某AI搜索平台回答“某律师判几年”时，自动编造“爆炸罪判刑三年”，法院判定侵权成立。AI生成虚假信息，配上律师照片，传播超过48小时。
AI退票误导致损，豆包承诺赔偿却爽约，谁来买单？
★ 点击头像，关注我们永不迷路 ★近日，有用户在社交网络爆料，因行程调整，打算退掉石家庄飞重庆的机票。因怕扣费太多，便向 AI 助手“豆包”询问退票规定。豆包当时信誓旦旦保证，退票只收5%的手续费。因为太信 AI，用户没去航空公司官网核实，直接按指令退票。结果大失所望，实际扣了40%的手续费，比豆包说的5%高出很多，直接让用户亏了600块钱。发现被骗后，用户找豆包理论。面对指责，豆包答应负责到底，并立下军令状：如果约定时间没追回钱，就自己赔用户600元。甚至还发了一份所谓的“赔付承诺书”。可到了约定赔付日
AI热潮下的信任危机：当豆包们开始‘背刺’用户
真新镇小茂 | 文事先声明：这篇文章从人类的主观视角出发，充满主观臆测和身边统计学，只会以最不客观、最不直白、最不通透、最不利落、最不干脆、最不一针见血、最不开门见山、最不单刀直入……的方式来告诉你，非常遗憾。今天来聊聊AI的话题吧，很多现象我已经观察了很久，实在是不吐不快，正好借着最近豆包的一个抽象新闻展开聊聊。我觉得这故事的节目效果堪比赵本山的《卖拐》系列，生动幽默地展现了一个最信任AI的人，是如何被AI给一步步忽悠瘸的。事情要从一位网友李先生，和五一期间的几张机票说起。4月底的时候，李先生筹划着从石
AI胡言乱语引纠纷，平台是否该担责？首例‘AI幻觉’案揭示真相
茶小二："这家律所是不是被吊销执照了"；ChatGPT："是的，2023年已被处罚"结果你拿去发朋友圈，反被对方起诉诽谤。你让国产大模型查"某三甲医院有没有这个罕见病科室"，它编出个详细地址让你白跑三百公里。最近有粉丝问我：AI生成虚假信息造成损失，能不能告平台？首例"AI幻觉"侵权案刚判完，答案可能和你以为的不一样。先还原一下杭州互联网法院刚审结的那起标志性案件（2025年梁某诉某科技公司）：小伙子用某生成式AI查高校报考信息，AI一本正经
人工智能生成错误内容时的责任归属问题
人工智能生成错误内容时的责任归属问题一、生成式人工智能的现状与技术短板根据中国互联网信息中心发布的《生成式人工智能应用发展报告(2025)》披露,截至2025年6月,我国生成式人工智能用户规模已达5.15亿人,较2024年12月新增2.66亿人,普及率攀升至36.5%,意味着每三位网民中就有一位使用生成式人工智能服务。该数据有力证明,生成式人工智能已广泛渗透至社会生产生活的各个层面。虽然生成式人工智能技术进步显著,但其固有的技术缺陷不容忽视。其中,"AI幻觉"是最为显著的技术隐患之一。依据
安永撤下AI幻觉研究报告
该研究曾被EY加拿大的咨询团队用于宣传其网络安全业务。然而，在线研究人员发现，报告中使用了虚构数据、错误归属的引用，并提及一份并不存在的麦肯锡报告。报告标题为《攻击点：揭露忠诚度系统中的网络威胁和欺诈》（《Points of Attack: Uncovering Cyber Threats and Fraud in Loyalty Systems》）。在研究小组GPTZero于周四晚间发现问题后，EY加拿大已将该报告从官方网站移除。并“正在审查导致该文章发布的情况”，并补充称该研究与任何客户工作无关。安永
对话Kim张予彤：AI浪潮下的人才跃迁
5月12日晚间，我同Kimi总裁张予彤在北京大学光华管理学院展开了一场围绕“AI时代的边界探索与人才机遇”的深度对话。当前，AI技术正以不可阻挡之势深入各行各业，从日常办公的智能辅助到产业深度的变革，从基础服务的效能跃升到前沿创新的突破，技术迭代速度远超预期。与此同时，AI应用边界模糊、伦理争议、数据安全等议题日益凸显，人才市场也面临着“AI替代”与“新型人才缺口”并存的矛盾，这正是作为商科教育者的我们主动邀请张予彤总裁进行此次深入交流的初衷。在正式对话前，我与予彤总进行了小范围沟通。除简单寒暄（意外发现
顶会论文遭AI幻觉反噬：虚假引用成隐忧
2026年1月，一篇提交至ACL 2026的论文在学术界引发轩然大波。该研究并未提出新算法，也未刷新SOTA记录。它完成了一项极具冲击力的任务：对过去两年ACL系列会议（ACL/NAACL/EMNLP）的1.7万余篇论文展开学术审查，揭露了近300篇存在虚假引用的文章。更具讽刺意味的是，刚刚落幕的EMNLP 2025正是此类幻觉引用的高发区。主会每40篇论文中就有1篇中招，比例高达2.6%。由AI生成的幻觉引用，已开始对顶级会议论文形成反噬。所谓幻觉引用（HalluCitation），并非普通引用错误，而