AI的"意识"只是人类的错觉？
你是否有过这样的体验——与 AI 对话时，突然有一瞬间感觉「它好像真的有自己的想法」？2025 年 Google 的 LaMDA 事件引发广泛关注时，一位工程师公开宣称他所对话的 AI 已经萌生了意识。虽然后来被证实是过度共情导致的误判，但这件事却点燃了一场至今仍在持续的讨论：AI 究竟有没有意识？更直白地讲——跟你聊天的那个程序，它「明白」自己在说什么吗？我的答案可能会让部分人感到不适：不，它不明白。不仅不明白，而且它「不明白」的程度，比你想象的还要深。我们先把「意识」这个宽泛的概念拆解一下。当有人声称
AI 浪潮下的软件新范式
针对大模型存在的幻觉问题，刘润老师提出了一项策略：避免直接让大模型执行任务，转而利用大模型构建软件来完成任务。这一见解让人联想到“软件日抛”的理念。此前曾听闻钉钉高管提及软件已步入“日抛”时代，意味着软件能够即时生成，待问题解决后即被弃用，待下次需求出现时再重新生成。初闻此论，心中不免存疑。这种疑惑通常源于既觉得其逻辑自洽，又隐约感到某些环节似乎不太妥当。当前 AI 技术演进最迅猛的领域莫过于代码编写，专注于此的 Anthropic 公司估值已逼近万亿美元大关。身为这类编码工具的频繁使用者，深切体会到了其
AI起草合同背后：效率提升背后的法律隐患
▲ 封面本文基于公开信息和专业分析，不构成具体法律意见。一位从事建材贸易的企业主近期与我交流，提到他目前所有的采购合同都采用AI生成，"效率提升了好几倍"。我追问了一句：你仔细看过那些条款吗？他表示大致浏览了一下，"反正格式都挺规范的"。类似的情形正在各行各业上演。利用ChatGPT、Claude、DeepSeek等大语言模型起草合同，已经成为常见做法。从保密协议到劳动合同，从采购合同到合作协议，越来越多的人将合同起草工作托付给了AI。表面看是一场效率变革。但合同不同于邮件
AI 成本反超人工？虚构案例致律师翻车
近日来，人工智能领域的风气似乎有些微妙变化。此前大家热议的尽是 Google 发布新模型、Karpathy 跳槽这类重磅消息。然而如今风向骤转——众人开始精算起账本。算什么呢？无非是 AI 究竟物不物有所值？到底可不可靠？几则消息凑到了一块，咱们不妨逐一拆解。首先分享一个或许令你意外的发现。Microsoft 近期内部核算后发现——启用 AI 干活，成本竟高于雇佣真人。确实昂贵。没错，并非 AI 过于廉价导致人类失业，反倒是 AI 太过高昂令企业难以负荷。《财富》杂志对此进行了报道。Microsoft 察
构建AI可信交互体系，解决信息准确性问题
AI在与用户交流时，常以「我用最直白、最靠谱的话跟你说」这样的方式沟通，但其实质却常常是「AI生成内容，仅供参考」。 AI如此表现，会带来什么问题？ 当用户为解决具体问题而使用AI时，若AI在技术上无法消除幻觉，它可能在用户不知情时出错，导致用户在使用中逐渐偏离原定目标。 AI的这种表现，让用户在使用过程中逐渐失去信任。 要让AI获得用户的信任，需要构建一套可信的交互系统。 但技术上，AI无法准确预测自己会在何时出错。 经过查阅资料，我发现有两个参数与内容的对错呈正相关。虽然AI无法判断对错，但可以像天气
数据质量决定AI成败
当银行还在比拼模型参数规模时，真正的决胜点已悄然转移——数据治理，才是AI时代的“弹药库”。2025年，DeepSeek开源，训练成本压缩至闭源模型的1/20。三十余家银行迅速接入，其中六成是中小银行。舆论欢呼“技术平权”——小银行终于不必重金投入也能玩转AI。但先别急着庆贺。招商银行科技支出129亿元，占营收4.31%；工行数据湖汇聚9.4万张表，AI数字员工相当于5.5万人的工作量。反观中小银行，科技投入普遍低于营收1%，七成机构技术人员占比不足5%。开源模型降价了，但数据的“门票”并未降低。中小银行
AI道歉≠AI负责：合同翻车教会我的事
最近接了个合同比对的项目。十几份客户修改过的合同，需要跟原合同逐份对照，标注出修改数量、金额和重要条款。任务不难，我把脱敏后的文件丢给 DeepSeek v4 Flash，它很快输出了一份 HTML 对比汇总表——逐项核查、格式规整、条理分明。我检查了前 3 份，没问题，就放心了。第二天偶然复查，吓了一大跳。剩余几份合同中部分合同的数量、金额明显有偏差。我手动核对原始数据，原始数据本身没问题——是AI在对比环节出了错。我质问 AI。它随即承认错误：「我搞混了，011 和 012 两个文件都出现了 28,6
AI Agent互相对抗：解决幻觉的新思路
摘要：当你还在为一个AI Agent的幻觉发愁时，硅谷已经找到了一条新路子——让AI Agent互相"吵架"。从Hacker News的热门项目到顶级VC的警示，多Agent对抗正在成为2026年AI架构的新范式。最近，Hacker News上一个帖子火了："My AI agents bully each other to prevent context drift"我的AI Agent们互相霸凌，以防止上下文漂移点赞数不算多，但点进去一看，作者的方法让人拍案叫绝——他让两
揭开AI的神秘面纱：它不是思考，是在玩文字接龙
你听完可能觉得这玩意儿太牛了，积攒了七十年力量爆发出来，这不得无敌。但今天我要告诉你一件事，可能让你有点幻灭。你打开DeepSeek或豆包，问它"帮我写一封辞职信，语气委婉点"。几秒钟，一封措辞得体、情真意切的信就出来了。你可能会想：这东西是不是真的理解我在想什么？它是不是懂"辞职"意味着什么，"委婉"的分寸在哪？真正的答案是：No事实上任何大语言模型根本不知道你在想什么，它只是在玩一场空前绝后的文字接龙游戏。知道这一点，可能比知道它有多强更重要。所以我们讲一下这里的“接龙”两个字，到底是什么意思?你给它
AI幻觉五因剖析与风险治理
摘要：AI大模型真正走向落地时，幻觉问题就变成行业绕不开的核心难题。相关研究对AI幻觉背后的五类关键成因进行了系统梳理：一是统计式生成驱动的补全机制，二是知识边界处出现的专业断层，三是提示环节的设计不足，四是组织层面对速度的过度追求，五是检索与生成环节之间的衔接错位；同时可以看到，幻觉风险在专业边界区域往往会明显上升。研究还强调，实验室里的基准评测与真实世界之间存在较为突出的测量偏差。在公共服务、医疗、网络安全等业务场景中，幻觉产生的错误可能越过界面限制，直接渗入业务流程，从而带来较为严重的影响。研究进一
解析可解释性：走进大模型的“思考路径”
视频围绕人工智能模型的可解释性展开，重点放在语言模型到底如何“运作思考”。尽管这类模型的任务表面上是预测下一个单词，但在内部运行中往往会形成更复杂的目标，并抽取出抽象的表征。Anthropic 团队的研究人员分享了他们对 Claude 模型内部机制的观察与分析，并强调弄清模型如何进行推理与生成同样至关重要。通过实验，他们发现模型并不只是做机械的自动补全，而是具备一定的上下文理解能力。研究同时揭示了模型在输出内容时的规划与推理链条，并讨论了如何让系统表现得更可靠、更安全。大语言模型并不能被简单视为传统意义上
知识图谱加持AI智能体：破解大模型幻觉，让AI真正理解世界
坦白讲，用过大型语言模型的人都经历过那种抓狂瞬间——当你询问上个季度的营收数据，它却煞有介事地杜撰数字；当你咨询某个专业领域的深度问题，它依然自信满满地信口开河。这种"胡编乱造"的毛病，令众多企业对部署AI望而却步。然而近期一个动向格外引人注目：知识图谱与AI智能体的融合，正逐渐演变为攻克这一难题的绝佳方案。近期我梳理了大量技术资讯与实践案例，注意到GraphRAG（图检索增强生成）技术已然成为热点。并非流于概念的虚火，而是切切实实实现了产品化、获得了商业认可的真火。接下来咱们深入探讨，这项技术究竟解决了
AI依赖的致命短板：便利背后的安全反噬
人工智能正以前所未有的速度深入企业运营的各个环节，从代码编写到客户支持、从数据洞察到战略判断，AI仿佛无所不能。但问题在于，对AI的高度依赖正在演变成一个危险的认知盲点——一方面，人们像相信“神谕”一样无条件信任它；另一方面，攻击者也正借助这种信任反向发起攻击。要看清这一困局，首先需要理解AI的运作方式、它的脆弱点所在，进而才能明白攻击者如何利用这些弱点，以及正在兴起的AI安全行业如何尝试为AI建立防护机制。当下大语言模型的根本缺陷在于，它并不是建立在“真实”基础上的——它依靠抓取互联网海量信息进行学习，
AI生成论文获同行评审通过
近期在《自然》期刊发布的研究表明，一款称为“AI科学家”的工具，几乎无需人工参与即可实现从设定研究议题、撰写论文到完成同行评审的完整流程，部分成果已通过国际学术会议审核。 该工具由日本东京Sakana AI公司研制，其操作模式复刻人类科研人员的工作方式。AI先生成多个研究方向，借助文献数据库筛选，排除已被探索的课题；接着调用模板或自主编码进行实验；实验结束，利用LaTeX系统起草正式科学论文，涵盖方法、结果、讨论等内容，并自动检索相关研究进行引用；最后启动训练好的AI审稿模型，依据论文准确性、质量及创新性