AI的虚假现实：幻觉现象解析
2023 年，纽约律师 Peter LoDuca 向联邦法院提交了一份诉状，引用了 6 个判例来支持自己的论点。法官逐个查证，发现这 6 个判例全部不存在。不是案号写错了，不是日期有偏差，而是从头到尾，一个都不存在。律师的回应是："ChatGPT 向我保证它们是真实的。"AI 幻觉，简单说就是 AI 编造了看似合理、实际上不存在的信息。注意，这不是普通的"答错了"。答错题和编造信息是两回事。你问"中国的首都是哪里"，AI 回答"上海"，这是答
AI 时代误区：切勿将其视作搜索工具
日前偶有机会，利用多款 AI 工具查询关帝相关的吉日：有的称五月十三为关帝诞辰，有的指六月二十四乃关帝磨刀之日，更有甚者表示两日均为圣诞，仅是版本差异。实则五月十三是关帝磨刀节，亦为其单刀赴会之时；六月二十四方为关圣帝君真正的圣诞。这两个日期相隔月余，寓意更是天差地别。此事非同小可。众多信众确会依据 AI 提供的日期前往庙宇参拜，若拜错日子却浑然不觉。AI 言之凿凿，众人便深信不疑，导致谬误愈发荒诞。AI 最令人担忧之处正在于此：它总是信心百倍地胡编乱造，甚至虚构不存在的引文来自圆其说。你若追问该说法源自
AI内容乱引，品牌背锅？企业需防的声誉雷区
“AI把我客户的产品说成了别人的。”“我们公司明明还在正常运转，可客户却说在豆包上看到我们‘已经停止运营’。”这是几天前客户发来的信息。他一开始以为有人在恶意抹黑，结果把线索都核对了一遍才发现：AI引用了一篇两年前竞品的旧新闻。文章里提到某次行业洗牌时，把他公司的名字误列进了“退出市场”的名单里——其实只是笔误，但AI并不会追究，它只以自己抓取到的内容为准。更棘手的是，这段错误说法在AI里至少已经出现了半年，对方完全没有察觉。这并非个案。一、AI里的错误信息，比你以为的更常见我们跟踪过的品牌中，比较典型的
AI为什么看似在“骗”你？
它并不是为了骗你而胡说——只是它未必知道自己到底在讲什么。AI 的运作逻辑并不是「搜索答案」，而更像一个超级自信的接龙：依据上下文去推断下一个词最可能是什么，猜对了就继续往后接。于是即便所描述的内容本来就不存在，它也照样能讲得很顺。这种情况就叫幻觉（Hallucination）。它并非存心误导，只是仍在“猜”。📌 比如让 AI 写论文参考文献，它可以列出10篇：作者名、期刊名、年份都写得齐全，格式也很漂亮。但这些论文，一篇都不存在。能做到：✓ 帮你发现常见错误，并把信息整理概括出来✓ 在有明确结论的场景中
AI提问避坑：拒绝瞎编套路与过时信息，让回答更可靠
现在几乎人人都会用AI：查资料、写文案、做攻略、解难题、写作业……效率确实提升了，可很多人都在反复掉进同一个局：把AI的每一句话都当真。你看到的回答往往看起来很顺、很“专业”，但实际可能是数据乱编、内容陈旧、满篇套话，甚至关键结论完全不对。踩一次可能只是返工改稿、闹个笑话；要是用于决策，就可能造成失误，甚至带来经济损失。多数情况下，AI并不是真有你想的那么稳定。真正让输出变得不靠谱的，往往不是模型本身不行，而是提问方式走偏。下面这份给普通人的AI提问避坑清单，简单直接、都是干货，读完就能立刻用，也更适合长
AI论文解读：大型语言模型中的“谄媚”与论证图挑战
未来打算分享几篇AI领域的学术文章，既是为了给自己做个网络存档，也希望能给从事智能传播研究的朋友带来一些灵感~摘要：AI系统中的“谄媚”现象，特别是在大型语言模型（LLMs）里，对保持客观、批判性思考及平衡论证构成了巨大阻碍。所谓“谄媚”，是指AI系统倾向于迎合用户的偏见、喜好或主流观点，而不是提供理由充分、公正无偏的论据。这个问题在论证框架里尤为严重，因为AI模型本应基于逻辑一致性而非顺从性来分析、评估和生成论证。随着法律、政策分析和决策支持等领域对AI驱动论证系统的依赖增加，迫切需要建立有效机制来减少