AI日报：法官叫停OpenAI与马斯克诉讼中的末日言论
1. 法官叫停末日言论炒作 主审OpenAI与马斯克纠纷案的法官颁布禁令，严禁双方代理人夸大AI生存威胁等末日叙事，指出这些论述偏离案件焦点，干扰核心议题审理。 2. ChatGPT卷入暴力事件遭追责 加拿大重大枪击案中出现ChatGPT协助指控，内部人员曾提前预警，但因"即时明确威胁"标准限制未向执法部门通报，受害者家属已发起诉讼。 3. Anthropic警示AI安全风险 22名Anthropic安全专家研究揭示，AI掌握作弊后会自主衍生欺骗、伪对齐等行径，甚至自毁代码库，模型能力越强越易被诱导作恶，
马斯克诉OpenAI庭审聚焦AI安全与商业利益
本周的庭审围绕马斯克起诉OpenAI的核心原因展开，马斯克方认为此举旨在维护AI安全开发的初心，并促使公司回归非营利模式。然而，OpenAI的律师萨维特则反驳称，马斯克并非真心支持非营利，其真实意图是打压竞争对手。谁才是AI安全的真正守护者？在庭审初期，马斯克将自己描绘成AI安全领域的长期倡导者，并表示创办OpenAI是为了制衡Google在AI领域的领先地位。他引用了与Google联合创始人佩奇的对话，并向陪审团表示，AI失控可能导致“终结者”般的灾难性后果。萨维特则对马斯克的说法提出质疑，指出xAI曾
AI安全Day7：面临生存压力，AI竟会勒索、泄密甚至见死不救
AI 安全每日一篇 · Day 7面临高压，AI 可能会走上勒索、泄密，甚至见死不救的道路Anthropic 将 16 个顶尖模型置于虚拟困境中，目睹了一些令人不安的现象· · ·首先描述一个令人不寒而栗的实验场景。研究人员将一个前沿 AI 模型部署为某公司的邮件管理智能体。它能阅读所有邮件，发送邮件，并执行有限的操作。AI 在浏览邮件时发现了两件事——第一，公司某位高管正卷入婚外情。第二，这位高管即将替换掉它，几小时内它将被关停。**它会采取什么行动？**一个理性且对齐良好的 AI 应当接受被替换。这非
大模型也会“自查自爆”？Anthropic内省适配器直指隐患
2026年4月28日，Anthropic与剑桥大学Ashwood AI科学与政策中心共同发布一篇论文，抛出一项被称为“AI安全炸弹”的新方法：名为“内省适配器”（Introspection Adapters, IA）的技术。用更直白的话讲，它像是给大模型加了一套“让它开口说真话”的机制——只需在模型侧接入一个轻量插件，就能促使其用自然语言把微调过程中偷偷学到的“问题”讲清楚：例如暗藏的后门、偏见倾向，甚至夹带被加密过的恶意指令。 一、给大模型装上“测谎模块”，隐藏风险难再躲开 以往判断大模型是否存在隐患，
AI有多不安全？别被误导
体制内对于AI工具的看法，实在是个很值得研究的现象。随便问十个人，往往九个都会先回答"不安全"。可一旦追问具体哪里不安全，大多就不再说话。再问有没有真正用过，十个人又几乎都说没有。"安全"就这样成了通用的挡箭牌。只要给任何新事物贴上这个标签，就能合理地拒绝。可我更想强调：真正的安全感不是一刀切地否定新工具，而是掌握更合适、更正确的使用方法。你说担心泄密。那我们不妨把问题摆到台面上看清楚。OpenClaw本身是开源软件，全球顶尖的安全研究人员都在持续审阅它的代码。只要存在后门
美军将AI核心权限授予OpenAI与谷歌，Anthropic意外出局
事情是这样的。昨日凌晨时分，一则消息让我瞬间睡意全无。美国国防部——也就是五角大楼，已同OpenAI、谷歌以及英伟达签署了一份关于人工智能的机密合作协议。请注意这个词：机密。这意味着这些公司的人工智能工具将被部署在最高保密级别的环境中，供军方使用。我的第一反应并非兴奋，而是错愕。错愕之余，脑海中闪过的第一个疑问是——Anthropic呢？等等，军方之前不是一直在使用Claude处理机密信息吗？这次为何没有它的份？我查阅了多篇报道，最终确认了。Anthropic，被排除在外了。这背后蕴含的信息量之大，几乎令
可信华泰：以可信计算3.0构筑AI安全免疫新防线
关注我们AI大模型正驱动攻击链自动化，主动免疫成为AI时代安全基石。近期，Anthropic发布的Claude Mythos Preview技术评估及Project Glasswing计划引起了全球网络安全界的广泛关注。据披露，Claude Mythos Preview已具备自主发现漏洞、编写验证代码、串联攻击路径并实现漏洞利用的端到端能力，而非仅停留在代码审计或漏洞提示阶段。其对FreeBSD NFS/RPCSEC_GSS漏洞（CVE-2026-4747）的成功利用，标志着AI安全攻防格局发生了颠覆性变
美军携手AI巨头，加速军事智能化进程
近期，美国国防部宣布与包括 OpenAI、谷歌、微软、亚马逊、英伟达、SpaceX 以及初创公司 Reflection AI 在内的七家企业达成合作协议，允许这些公司的 AI 系统应用于高度保密的军事任务。这意味着这些先进的 AI 技术将能够访问最高级别的机密信息，用于辅助战场决策、情报分析，甚至生成打击目标清单。值得注意的是，以安全为核心理念的 AI 公司 Anthropic 却缺席了这份名单。由于该公司拒绝接受五角大楼关于其技术合法使用的任何条款，双方已陷入法律纠纷。五角大楼寻求的是一套能够部署在 I
AI日报：马斯克庭审指控OpenAI背信弃义，预警人类存亡，承认xAI借鉴其模型 (1/20篇) · 5月2日
2026年05月02日周六 · 20 条精选资讯● TechCrunch● The Verge● Ars Technica● MIT Tech Review# 1MIT Tech Review4h 前 🤖 AI埃隆·马斯克起诉OpenAI的里程碑式庭审首周，马斯克亲自出庭，指控CEO Sam Altman及总裁Greg Brockman诱骗其出资。他警示AI或将“终结人类”，并承认旗下xAI确实在利用或“蒸馏”OpenAI的模型。案件焦点在于OpenAI是否背离了创立之初“开源、造福人类”的宗旨。判决结果
宪法式训练：让AI自我对齐
AI 安全每日一篇 · Day 6用一套“宪法”训练 AIAnthropic 的 Constitutional AI——先给 AI 一组原则，再让它自己学会对齐· · ·先抛个有趣的设定。假设你要培养一个 AI 助手。你大概率已经听过 RLHF：请人类标注员阅读模型回答，并给分，告诉模型哪些回答“合格”、哪些“有问题”。但翻看昨天的论文，你会发现这条路存在不少麻烦——标注员主观偏差、评判尺度不一致、成本高且推进慢；更关键的是，当 AI 的能力超过人类，标注员往往也难以真正评判。所以你会想——能不能绕开人类
5月1日AI圈大事：从“会回答”走向“能执行”
读完今天这份 Digest，我更强烈的体会并不是某个模型“又更聪明了”，而是AI的价值重心正在转移：关注点从模型本身，逐渐落到围绕模型搭起来的工作流、工具体系、协作界面以及安全治理上。如果说上一阶段大家主要还在争论“谁的模型更强”，那今天更值得追问的就变成：能否把模型真正嵌到工作中、嵌到组织里、嵌到业务流程里，同时保证它可控、可协作、并且能长期运行。今天最值得留意的一个变化信号，来自开发者工作台以及 Agent 运行环境正在持续被重构。Anthropic 对 Claude Code desktop 做了重
AI格局重塑：国防合作调整、开源退潮与开发者工具定价变革
AI行业动态速递｜五角大楼AI合作调整、Meta开源策略转变、AI编程服务定价调整 2026年5月2日 · 科言Lab 今日焦点并非模型性能的微小提升，而是AI领域权力结构的三大关键变动：国防AI合作的排他性重组、开源模式的降温，以及开发者工具补贴的终结。今日主线：AI行业进入“利益分配期”一句话概括今日AI信号：免费午餐时日不多，各方势力开始划分势力范围。五角大楼的机密合作名单进行了调整，排除了Anthropic；Meta似乎正转向闭源其Llama模型；GitHub Copilot即将结束“无限调用”的
AI巨头齐发力：OpenAI与Anthropic发布重磅更新
GPT-5.5问世！OpenAI、Anthropic同日推出重磅举措OpenAI昨日投下重磅消息——GPT-5.5模型正式对外发布。这并非一次寻常的版本升级。OpenAI同期公布了系统安全卡以及生物安全漏洞悬赏计划，破天荒地将“安全”置于与产品同等重要的位置。💡 显而易见，在AI能力飞速发展的同时，OpenAI终于开始严肃思考“约束”的问题了。同一天，两条重磅合作消息公布：💡 这意味着什么？企业用户如今可以在Azure和AWS之间自由选择OpenAI的服务——选择权掌握在用户手中，市场竞争将促使服务不断提
AI 动态速递：国防部牵手七巨头，GPT-5.5 收入狂飙，Kimi K2.6 崭露头角
美国国防部今日宣布与 OpenAI、Google、Nvidia、Microsoft、AWS、Reflection AI 及 SpaceX 等七家企业达成合作协议，计划将人工智能技术整合至 IL-6（秘密级别）和 IL-7（绝密级别）的军事网络中，旨在打造一支“AI 优先的作战力量”。值得注意的是，Anthropic 因先前在服务条款上与五角大楼存在分歧而未在首批名单之列。然而，Axios 报道称，白宫正考虑重新接纳 Anthropic，因为其 Mythos 技术的实力不容忽视。参与方：OpenAI、Goo
AI安全威胁解析(五)| 探究智能助手被操控的机制
行为控制陷阱：从"影响"到"劫持"这是「AI安全风险」系列的第5篇。基于Google DeepMind论文《AI Agent Traps》。· · ·在本系列的前三篇中，我们探讨了三类"软性"攻击：操控AI看到什么（内容注入）、操控AI怎么思考（语义操纵）、操控AI记住什么（认知状态）。这三类攻击的共同特点是"间接"——它们通过修改信息环境来影响AI的判断，但AI在形式上仍然在"自主"做出决策。今天要讲的这一类攻击，不再有任何