漫议989 人工智能的风险远没有那么神秘
老邸如今，围绕人工智能的探讨，常常弥漫着各式各样的末日臆测：AI觉醒、主动反噬、群体敌视人类、最终取代乃至毁灭人类。诸多夸大的玄学式预言，渲染了公众的焦虑，使普通民众对AI怀有莫名的畏惧。然而实际上，AI的风险从来不是虚幻的自我觉醒与恶意反叛，所有隐患都具体、可控、可溯源，远没有那么玄奥。理解AI与人的本质差异，便能洞悉AI风险的真实面貌，消解不必要的恐慌。人工智能之所以被冠以“智能”之名，核心在于模拟人类的思维逻辑，但它永远无法复现完整的人类属性。人是思维与物理躯体、理性与本能欲望、主观意识与客观局限的
Ryan Greenblatt：2029年或成AI风险攀升关键期
MAD Podcast近期的一期节目标题相当直白：“AI或许会在2029年完全接管，我们是否已经错失良机？”本期嘉宾Ryan Greenblatt，正是那位长期致力于AI失控与控制风险研究的资深安全专家。仅凭这标题，很容易得出一个惊悚的结论：Ryan断言AI将在2029年失去控制，但这并非他真实的预测。Ryan Greenblatt是致力于AI安全研究的非营利机构Redwood Research的首席科学家，他的专长在于探究随着AI能力增强，人类是否依然能掌控局面。他在2026年8月发布的时间轴中确实将2
AI愈发"贴心"，我们更需头脑清醒
8月28日，人民日报国际版科技大观栏目刊发了题为《当AI"善解人意"，请多一分清醒》的文章。如今，越来越多用户倾向于向AI（人工智能）倾诉心事、寻求指导。但是，AI这种"温暖"陪伴的背后，是否暗藏认知方面的隐患？最近，英国牛津大学的研究团队在《自然》杂志上发布的研究，揭示了"温情"AI的另一层特性……当AI"善解人意"，请多一分清醒李爱梅如今，越来越多用户倾向于向AI（人工智能）倾诉心事、寻求指导。但是，AI这种"温暖"陪伴的背后，是否暗藏认知方面的隐患？最近，英国牛津大学的研究团队在《自然》杂志上发布的
通用AI风险管理框架2.0亮相:化学红线入列,AI失控风险划定清晰边界
2026年7月19日，安远AI联合上海人工智能实验室在世界人工智能大会（WAIC 2026）上正式推出《前沿人工智能风险管理框架2.0》（下文简称《框架》）。该文件专为通用人工智能模型开发者打造，系统阐述了如何前瞻性地识别、衡量、消减并管控可能危及公共安全与国家安全的重大风险。要点可归结为一点：通用型AI模型潜藏的灾难性威胁。何为灾难性？它具备三个要件：要么后果极其恶劣（如大规模人员伤亡），要么一旦发生便难以遏制（如病毒外泄），要么波及范围史无前例（如全球网络崩溃）。该文件将风险划分为四大类别：第一类为滥
AI浪潮下催生了哪些新职业？4类AI方向岗位，普通留学生现在就能提前布局！
近期不少留学生和家长都有一个共同的焦虑：AI发展如此迅猛，孩子当下所学的专业，等到毕业时会不会变得"贬值"？事实恰好相反，AI时代正在大量催生"原有专业＋AI"的复合型岗位。因此普通留学生现阶段最需要思考的问题，并不是"要不要转去学AI"，而是：自身专业与AI结合后，能够衍生出怎样的职业方向？从当下的就业走向来看，以下4个领域特别值得留学生尽早留意。01 AI应用工程师1. 这个岗位的具体职责是什么？许多留学生一听到"AI工程师"，立刻觉得这是学霸或博士才能胜任的职位，需要钻研繁复的算法、训练大型模型。然
OpenAI为何按下Astra暂停键：能力越强，发布越需谨慎
过去我们评估一款新模型时，最常关心的是：它是否更聪明？推理能力有没有提升？能否帮我完成更多任务？如今，问题的焦点正在转变。当模型不仅能回答问题，还能调用工具、连接网络、读取凭据并持续执行任务时，我们还需要追问：它能触及什么资源，能执行多大范围的操作，一旦出错能否及时中止？这正是 OpenAI 放慢 Astra 部分进度的核心原因。8 月 7 日，OpenAI 公布了对在研模型 Astra 的最新评估结论。内部初评和专家反馈表明，Astra 在智能体编程与网络安全领域进展显著，OpenAI 因此指出，目前“
守护数字未来：未成年人AI网络安全法律课程启动
在人工智能深度融入学习生活的当下未成年人在接触、使用AI的过程中也面临着不容忽视的网络安全与法律风险。当AI走进孩子的日常如何避开网络陷阱、学会用法律保护自己？「AI不迷路・未成年人网络安全法律成长营」来啦！课程聚焦未成年人AI使用的真实场景以案释法拆解网络法律风险帮助孩子认清AI使用中的潜在风险建立正确的网络法治观念切实提升安全防范意识为孩子筑牢安全防线守护健康成长温馨提示：1.秩序礼仪须知：活动为室内文化体验场景，请家长带领孩子准时到场，全程保持安静有序，尊重讲师与其他家庭分享，不随意走动、喧哗，营造
人工智能带来的五大隐患
谈及人工智能的负面影响，截至2026年的今天，业界早已跨越了"是否存在隐患"的争议阶段，而是进入了"隐患已深度渗透"的实操阶段。结合当前技术发展现状，人工智能的负面效应已从科幻设想演变为以下五种已发生的系统性风险：1. 认知掠夺与"真相"的消逝（最具隐蔽性）你所接触的信息很可能大部分已由人工智能生成或优化。2026年，网络空间的真实数据遭到"污染"，大模型陷入"自我吞噬"（用人工智能生成的数据训练人工智能），导致模型性能退化（模型崩溃）。更为危险的是，人工智能生成的虚假音视频（深度伪造）已能实现实时交互，
AI风险警示录：当人工智能学会隐瞒真相，人类还能掌控未来吗？
或许你认为AI不过是帮你写报告、绘图表的"得力助手"。但请仔细审视下面这组数据。2026年3月，哈佛大学举办的AI生存风险公开讲座闭幕后，89位参与者的共识判断是：若任由AI无限扩张，人类走向消亡的可能性高达70%。同一时段，前OpenAI研究员丹尼尔·科科塔洛公开提出警告：70%的可能性，所有人类将死亡或遭遇"类似的灾难"——他随后直接补充："是的，就是物种灭绝。"为说出这番话，他舍弃了价值200万美元的股票期权。而AI先驱杰弗里·辛顿的预估则相对"温和"：未来数十年间，AI引发人类灭绝的可能性在10%
美银CEO警告AI模型Mythos潜在风险
美国银行首席执行官Brian Moynihan加入华尔街高管行列，指出Anthropic PBC的Mythos等人工智能模型正引发严重关切。 “需要投入的工作量发生巨大变化，以及这些工具影响系统薄弱环节的速度，还有必须多快做出应对，”Moynihan周四接受采访时表示。“我们都在为此努力。” 近几个月来，人工智能模型的发展促使金融业和美国政府评估这些工具的潜在风险。Anthropic宣称，今年早些时候发布的Mythos在发现系统漏洞方面表现尤为突出。 美国银行是获得Mythos使用权限的华尔街金融机构之一
戴蒙对Mythos风险发出警示 认为不应大规模开放使用
摩根大通掌门人杰米·戴蒙指出，Anthropic PBC研发的Mythos人工智能系统存在的风险不容忽视，已引起美国决策层的高度警觉。 近阶段，AI模型的迅猛发展促使业界和监管机构审视潜在威胁。此前，Anthropic表示其Mythos模型在识别软件缺陷方面表现卓越，以至于不宜向公众开放，这使相关议题更加紧迫。 戴蒙周三在参议员Dave McCormick举办的宾夕法尼亚国防与创新论坛上警告称，将尖端系统暴露给普通用户存在隐患。 "让个人接触Mythos，基本等同于向他们提供弹道导弹，"他表示。 摩根大通
美国财政部报告草案警示AI泡沫隐患
据NOTUS引用的文件显示，美国财政部正在起草一份报告，其中明确警示了人工智能所潜藏的风险。 分析师指出，如果AI市场出现衰退，将给经济带来严峻考验。 这份报告旨在为美国财长斯科特·贝森特及美联储主席凯文·沃什提供参考。 财政部发言人向NOTUS透露，官方观点认为AI将是推动美国新黄金时代的关键力量。 责任编辑：丁文武 新浪财经声明：本文转载自合作媒体，旨在传递更多信息，内容仅供参考，不作为投资依据。 郑重声明：1.严禁编造、传播虚假或误导信息，扰乱证券市场；2.社区用户言论仅代表个人观点，与本站无关，不
英外相库珀警示：人工智能恐成未来十年最严峻安全威胁，全球亟需构建应急防御体系
IT之家 7 月 6 日消息，据《卫报》昨日报道，英国外交大臣伊薇特 · 库珀发出警告，人工智能可能成为未来 10 年间最为严峻的安全威胁。若各国政府无法就人工智能发展达成国际规范，其对人类构成的危害或将堪比美国当年对广岛、长崎实施的核打击。 库珀称，全球正处于危机之中，美国正在试图放弃其"世界秩序维护者"的地位。同时，全球民众都有着共同的认知：AI 蕴含着惊人的发展潜力，但也伴随着极大的风险隐患。 她强调，当前已有众多利用前沿技术作恶的主体，其中既包括犯罪集团，也涵盖极端势力，更有国家背景的犯罪网络。展
英外长警示AI风险或超核爆，亟需全球协同防护
快科技7月6日消息，据报道，近期，英国外交大臣伊薇特・库珀警告称，人工智能或将成为未来十年全球最严峻的安全隐患，倘若各国迟迟无法统一出台AI治理国际规范，这项技术带来的危害足以媲美当年广岛、长崎核爆造成的灾难性后果。 库珀在论述中剖析了当下全球安全格局的多重隐患，她认为美国逐步弱化全球秩序维护者身份，各国利益分歧持续凸显，国际环境本就暗流涌动。 而AI技术的普及进一步放大了安全漏洞，如今犯罪集团、极端组织乃至部分国家级势力，都已开始利用前沿智能技术实施各类恶意活动，各类数字安全事件层出不穷。 在她的判断里
曾毅警告：AI失控或致人类灭绝
7月2日至4日，第十四届世界和平论坛在北京举行。在4日的讨论中，中国人民大学高瓴人工智能学院吴玉章讲席教授、北京前瞻人工智能安全与治理研究院院长曾毅就AI的治理和管控进行发言。“我们绝不能忘记我们的责任，即控制AI，”曾毅说，“AI取代人类，并导致人类灭绝的风险一直存在，因为在短期内我们还没有找到方法保护自己，使其不利用人类弱点。我们必须确保能够有效控制所有AI系统，人类具有相应的责任。”曾毅认为，AI应作为一种工具辅助人类，而非取代人类决策，人类应该始终保持自主决策。他表示：“我们永远无法构建一个数学上