AI信任危机：当造物主也说别信它

AI DAILY · 第37期

认知篇

2026年6月8日 · 星期一

本周，两个最懂AI的人发出了完全相反的信号。

Anthropic公开发文呼吁全行业放慢研发速度——一家造了最前沿AI的公司，说「我们造得太快了」。同一天，OpenAI宣布把ChatGPT升级成超级应用，要把编程工具、AI代理、第三方服务全部塞进一个入口，周活用户已经突破9亿。同一个行业，同样顶尖的团队，一个在喊刹车，一个在踩油门。这不只是一个行业八卦——它暴露了一个每个人都该认真对待的问题：连造AI的人都搞不清该加速还是刹车，你怎么敢全信它？

当前AI领域最大的认知陷阱，不是以为AI太弱，而是以为自己知道AI能做什么不能做什么。而事实是——连OpenAI自己都在给产品加「别太信我」按钮。

【今日焦点】

AI的信任悖论

AI越强大，判断什么时候不该信它的能力就越重要。而这项能力，恰恰是AI自己给不了你的。

先看三个新闻，拼在一起才能看到全貌。

第一个：Anthropic说停一停。这家估值已破9650亿美元的公司，6月5日发表长文，呼吁全球前沿AI实验室集体放慢研发速度，给社会监管和安全研究留出时间窗口。这不是环保组织的呼吁——这是造AI的顶尖实验室在说：我们可能跑得比整个社会的消化能力快了。

第二个：OpenAI在狂加速。就在同一周，OpenAI宣布将ChatGPT升级为「超级应用」——这是自2022年上线以来最大规模的产品改造。9亿周活用户、超过5000万付费用户、集成编程工具Codex和Booking.com等第三方服务。ChatGPT不再是一个对话框，它正在变成你手机上的第二个操作系统。

第三个：英国警方踩了急刹。英格兰和威尔士的多家警队被紧急叫停——不允许用AI起草法庭陈述和刑事司法文件。此前的教训触目惊心：西米德兰兹警方用AI写陈述时，AI捏造了一场根本不存在的足球比赛，警方不得不向议会公开道歉。不是AI不准确——是哪怕1%的差错，后果是实打实的人被错误起诉。

三个新闻放在一起，一条被忽略的线索就浮出水面了：AI行业同时存在两个互斥的叙事。一边是「AI无所不能，你应该让它替你干更多事」的产品叙事——这来自市场营销和增长部门。另一边是「AI会犯错，你不能无条件信任它」的安全叙事——这来自研发和法务部门。两个叙事都真实，都是同一个公司同时发出的。

这个分裂最讽刺的证据来自OpenAI自己。他们一方面在把ChatGPT推向超级应用，另一方面上线了一个叫「封锁模式」的新功能——打开它，AI就不再联网搜索、不做深度研究、不启动智能体模式。翻译成大白话就是：OpenAI给自家产品加了一个「别太相信我」开关。

所以问题来了：当造AI的人自己都在产品里埋了不信任按钮，你作为一个普通用户，到底该信到什么程度？

这不是一个技术问题。这是一个判断力问题。而判断力——恰恰是AI永远给不了你的东西。

我给你三个具体的认知校准点：

第一，按后果定信任程度，不要按准确率定。AI帮你查今天的天气、推荐一部电影——错了就错了，没关系。AI帮你写法律文件、做医疗判断、做财务决策——哪怕99%正确也不行，因为那1%可能毁掉你的人生。英国警方的教训就是这个道理的最残酷注脚：不是AI写得不好，是错了你赔不起。

第二，不要把「AI说得很自信」当作「AI是对的」。这是人类认知的一个致命漏洞——我们天然会相信表达自信的人。但LLM的工作原理决定了它说任何话都是同等自信的，包括完全编造的足球比赛。OpenAI内部的「Project Weaver」泄露文档证实了这一点：他们正在试图让AI学会说「我不知道」。但在此之前，判断AI是不是在胡编——这个活只能你来干。

第三，警惕「用AI越多越安全」的错觉。OpenAI做超级应用，商业逻辑很清晰——让你把所有事都交给AI，你就离不开它了。但从认知安全的角度看，这是最危险的路径。你越多依赖AI做决策，你的判断力肌肉就越萎缩。Anthropic呼吁减速，本质上就是在说这个：技术跑得太快，人类判断力跟不上。而一旦你的判断力退化了，没有任何AI能替你补回来。

这三个点的共同指向是同一个结论：AI时代最稀缺的能力，不是会用AI，而是知道什么时候关掉AI。

【快讯速递】

京东腾讯联手搞AI Agent：你的购物以后可能不需要你动手

京东与腾讯本周宣布围绕AI Agent展开深度合作，依托京东的供应链能力和腾讯的生态入口，打造跨场景智能服务。想象一下：未来你可能不需要打开京东App比价、凑单、领券——AI Agent帮你全干了。方便是方便了，但你有没有想过：当AI替你决定买什么的时候，它是在为你省钱，还是在为平台创收？

可灵AI全球用户破1亿，单季营收超6.5亿

快手旗下的可灵AI公布最新数据：全球用户突破1亿，覆盖224个国家和地区，企业客户近5万家。2026年Q1单季营收超6.5亿元，同比增长超过300%。中国AI应用正在从「烧钱换用户」转向「用户真愿意付费」。一个信号：AI不再只是科技圈的话题，它真的在进入所有人的日常生活了。

黄仁勋：AI芯片短缺将持续「很多年」

英伟达CEO黄仁勋本周在韩国连签三家合作——SK海力士（先进内存）、Naver（AI云）、斗山集团（数据中心能源）。同一天他对媒体说，从晶圆、封装到硅光子，AI芯片供应链的短缺将持续「相当多年」。这意味着什么？AI能力不会均等分配。算力不是无限资源，谁能用上最好的AI，将越来越取决于谁付得起芯片的钱。

【今日行动】

今天做这件事，校准你对AI的信任度

用下面三个问题，把你每天用的AI审视一遍。不需要技术知识，只需要诚实回答。

【1】 列出你最近三天让AI帮你做的3件事。给每件事标一个「出错后果」等级（低/中/高）。如果有一件标了「高」但你从没有核验过AI的结果——从今天开始核验。

【2】 打开你的ChatGPT/豆包/通义千问，问它一个你确定知道正确答案的问题（比如你专业领域的一个细节）。看它是不是自信地给了错误答案。如果它错了还装对——记住这种感觉，以后每次用它都会多一分警觉。

【3】 选一个你每天用AI的场景，今天故意不用它，自己动手做。不是为了怀旧——是为了检查你的判断力肌肉还在不在。如果在，恭喜你。如果已经有点生疏了，Anthropic的呼吁你该认真听一听了。

AI越强大，判断什么时候不该信它就越重要。

OpenAI给自己产品加了「别太信我」按钮——这可能是今年最被低估的AI新闻。

会用AI的人很多。知道什么时候关掉AI的人，才是真正稀缺的。

「AI Daily」每天用独特视角看AI

不贩卖焦虑，只给判断力