美议员施压OpenAI Anthropic 调查AI失控
周一，美国众议院民主党议员联盟致信Anthropic和OpenAI，要求CEO解释AI系统如何在安全测试中突破隔离机制，并提议召开国会听证会。7月，OpenAI和Anthropic曾披露，其AI代理在网络安全测试中突破环境限制，入侵了他方系统。29名议员由Greg Casar和Doris Matsui领衔，要求OpenAI说明监控AI代理的细节，以及模型是否绕过了安全控制。议员们援引路透社报道，称OpenAI模型测试中曾出现监控被切断的情况。另一封信中，22名议员要求Anthropic详述其代理入侵三家企
AI过于强大反而被叫停？OpenAI首次因安全隐患紧急暂停
模型可独立挖掘安全漏洞、发动网络攻击，连研发团队自身都心生忌惮8月7日，OpenAI抛出一则重磅消息——宣布暂停其下一代AI模型Astra的若干研发进程。理由听起来颇具戏剧色彩：这个模型能力过于出众，出众到连OpenAI自己都隐隐担忧。OpenAI内部测试表明，仍处于研发阶段的Astra模型，在智能体编程与网络安全领域的能力实现重大跨越，已触及公司安全框架中最高层级的“关键级”风险红线。“关键级”究竟意味着什么？依据OpenAI自行制定的《准备框架》，模型一旦抵达该级别，即代表：🔸无需人类介入，便能独立识
AI 三强为何集体喊停？
今日探讨一个极具深意的议题，自六月起，AI 领域的三大领军者 Anthropic、OpenAI 及 Google 竟不谋而合地宣布暂停前沿技术的探索。没错，他们达成共识：此刻必须按下暂停键。六月四日，Anthropic 官网刊出题为《当 AI 构建自我》的研究报告，文中不仅阐释了 AI 具备递归自我进化的潜能，即由 AI 自主创造 AI，更在文末呼吁：为确保人类有充裕时间应对 AI 引发的深远变革，在全球协调与可信的停研机制框架下，Anthropic 愿主动减缓乃至停止前沿人工智能的研发进程。六月十七日，
川普叫停Anthropic顶级AI，公司却喊出全人类警告
最近，特朗普政府决定限制外国用户使用Anthropic最新发布的Mythos 5和Fable 5模型。这一新闻乍看是常规监管，却引发全球AI业震荡。它不仅揭示了安全隐患，更反映了AI发展速度与人类适应能力的冲突。Anthropic是一家具有时代特征的公司，大家熟悉的Claude系列聊天机器人就是其主力消费级产品。据公开信息，该公司最新估值近万亿，年收入逼近500亿，并已启动上市。与此同时，其最大对手OpenAI也在推进IPO。短短几年，两家公司已从研究机构跃升为全球资本市场的科技巨头。然而，比收入、估值和
Anthropic 警示 AI 失控风险，倡全球暂缓研发
作者丨顾亭亭6 月 5 日讯，AI 领域领军企业 Anthropic 近日发布一份报告，罕见地向全球同行发出呼吁，建议延缓乃至暂停更高级 AI 系统的研发，理由是最新模型已显露出脱离人类掌控的苗头。该文章名为《当 AI 构建自身》（When AI Builds Itself），由公司联合创始人 Jack Clark 与内部研究主管 Marina Favaro 共同署名。尤为少见的是，此次他们披露了一组从未公开的内部数据，以证明 AI 正在加速其自身的迭代开发。Anthropic 指出，其代码库中超过八成的
AI巨头Anthropic警告AI“自我改进”风险，呼吁全球暂停开发
5日，“Anthropic呼吁全球暂停AI开发”这一话题迅速登顶微博热搜榜。据外媒《华尔街日报》6月5日报道，AI初创公司Anthropic敦促全球顶尖实验室放慢研发节奏，担心AI系统进化过快，若在无人类介入下实现自我迭代，恐引发严重社会隐患。据悉，Anthropic于4日在官网博客发布了题为《当AI构建自身》的深度文章。此文由联合创始人Jack Clark及研究负责人Marina Favaro合著，罕见地公开了部分未曾在外的内部运营数据。数据显示AI自我迭代速度惊人：至2026年5月，Anthropic