MIR新刊发文：X-SHIELD提升AI模型可解释性与性能
Machine Intelligence Research随着人工智能系统在各领域逐步成为重要组成部分，对模型可解释性的需求日益迫切，由此催生了可解释人工智能这一研究方向。现有研究主要围绕黑盒模型解释的生成与评估展开，而如何借助解释评估结果直接改进模型性能，仍是一个亟待填补的关键空白。同样值得关注的是，解释过程本身具备通过训练反馈提升模型质量的潜力——XAI技术既可增强模型的可解释性，也可用于改善其性能表现。基于这一视角，西班牙格拉纳达大学的研究人员提出面向学习动力学的变换选择性隐藏输入评估(T-SHIE
绿色人工智能全面综述：评估指标、技术工具、核心挑战与发展趋势
绿色人工智能（Green AI）作为新一代智能技术，致力于减少能源消耗、提升计算效率，并为算法、硬件及基于机器学习的基础设施发展开辟新的方向。本文聚焦该领域的技术创新，审视了多种先进方案，包括低功耗架构设计、模型压缩算法，以及利用TPU与脉冲神经网络（Spiking Neural Networks, SNNs）等专用硬件，还有边缘计算在降低能源成本、提高效率方面的应用。此外，本文介绍了用于评估人工智能模型能耗、碳足迹和生命周期指标的智能工具，并分析了它们在监测与优化计算资源中的功能。本研究还识别出当前的技
人工智能学术前沿系列讲座（第45期）
人工智能学术研讨会AI前沿对话人工智能学院讲座信息主题从可解释性到表达力：多模态数据生成模型的演进之路时间下午02:00-03:00日期2026年7月22日地点教学楼A栋415室Zoom链接https://cuhk-edu-cn.zoom.us/j/92754850077?pwd=QakJboO4F5vCQ7uYmei9L4LbFg2kaZ.1 密码: 260722会议号: 92754850077演讲嘉宾Marco CRISTANI 教授（意大利维罗纳大学）主持人李海洲 教授（香港中文大学（深圳））嘉宾简
人工智能诊断可靠吗？北大揭开AI医疗“黑箱”，看完你还敢信吗
假设你的体检单上出现了一行字"AI辅助判断：疑似初期肺结节"，你会如何应对？多数人会带着报告去找医师。但假如医师说"我看了影像，也认可AI的看法，但我无法说明AI为何这样判断"——你相信还是不信？这正是AI医疗面临的最大信赖难题：深度学习系统像个"暗箱"——你放入一张CT图像，它给出"恶性几率87%"。至于它依据图像上哪处阴影、哪种纹理特征得出的结论——无人知晓。连AI的创造者也不清楚。先看几组实际统计——资料显示AI在特定图像辨识任务上确实
透视AI思维黑箱：J空间揭示大模型隐性推理机制
近日，人工智能领域取得突破性进展：Anthropic团队在Claude大模型内部发现一个名为J空间（J-space）的隐性表征区域，并借助自研工具J透镜，首次实现对AI“未言明思考”的全貌观测。该研究突破传统参数与算力竞争框架，为解开大模型黑箱、构建AI安全体系开辟全新维度——简单说，人类终于拥有了洞察AI思维逻辑的“透视镜”。以往用户与大模型互动，仅能见到对话框中的最终回复。推理过程如封闭黑箱，模型在输出前如何联想、判断、预判，全然未知。此前“思维链”技术虽让AI展示思考步骤，但仅是刻意呈现的“表面草稿
AI临床试验落地的现实瓶颈
AI项目在临床试验场景落地时，普遍面临演示效果亮眼却与实际业务严重脱节的困境，大量现实障碍让技术难以走完业务落地的关键一步。行业普遍存在过度看重模型表现、忽略全流程配套的认知误区，忽视了临床数据、合规监管、运维工程以及真实用户行为带来的多重限制，致使众多AI原型无法规模化投入到实际临床业务中。 AI落地可归结为三大主要矛盾：其一是数据预期落差矛盾，演示环境的数据质量较高、效果显著，但真实临床中存在海量特殊病例，大部分精力都耗费在数据清洗与标注上，原始存在缺陷的数据会显著降低模型实际表现；其二是模型合规适配
清华AI治理研究院代表团赴德访问BIFOLD深化国际合作
点击蓝字关注我们德国时间2026年7月1日，清华大学人工智能国际治理研究院（I-AIIG）代表团成员助理研究员王净宇、博士后盛舒洋及宋雨鑫、外事助理樊晨一行访问德国柏林学习与数据基础研究院（Berlin Institute for the Foundations of Learning and Data，BIFOLD），与BIFOLD研究团队及夏里特大学医学院（Charité Universitätsmedizin Berlin）专家就可信人工智能、人工智能可解释性、前沿模型安全评估及国际治理合作等议题展
AI评测新趋势:从榜单刷分到真实场景能力验证
过去我们更在意模型在各类排行榜上的成绩：SWE-bench、Terminal-Bench，领先几个百分点，打破纪录成为焦点。而如今，一个更核心的议题逐渐显现：这些分数，真的能反映AI在真实生产环境中的能力吗？从近期AI评测的发展来看，评测正从“短任务、单分数、排行榜”迈向“长周期、可解释、生产级、安全可信”。本周最受瞩目的项目当属 Sakana AI 推出的CoffeeBench。它不再让Agent执行几分钟就能完成的单点任务，而是搭建了一个持续90天的B2B咖啡供应链模拟平台。系统内包含6个由LLM驱动
AI前沿速递：可解释原型模型突破
📊 本次任务消耗Token统计：总消耗 44,968 tokens，其中输入35,214 tokens，输出9,754 tokens 涵盖近2天AI领域最新学术论文、热门开源项目、行业动态资讯，每日更新。摘要：哈佛大学团队提出PRISM（Prototypes for Interpretable Sequence Modeling）架构，通过稀疏非负的学习原型混合生成每个预测，聚类训练目标将每个原型锚定到连贯的训练数据邻域。在130M到1.6B参数规模、50B tokens训练量下，原型语言模型性能超过或与
AI时代：量化竞争的真正护城河
量化行业初期，核心在于发现他人未察觉的信号。那时算力昂贵，每个有效信号都价值连城，护城河极为简单——将信号严密封锁，不让对手知晓。传闻中，昔日部分量化公司仅凭数个均值回归信号便足以支撑整个团队运转。后来算力成本下降，仅靠隐藏信号已难以为继，竞争转向了"谁的系统更复杂"——信号数量激增、执行速度加快、风控日趋精密、中央流动性账簿应运而生。今日的量化巨头，大多在此阶段奠定优势。但保密仍未过时，因为"如何构建这套系统"本身仍是核心竞争力。如今局势再变，大语言模型仅需一次提示，便能
AI可解释性突破推动安全标准化
AI存储实战 | AI存储实战进阶2026年6月，Anthropic发表论文揭示了大语言模型的'可解释性黑箱'问题取得突破。研究团队通过'稀疏自编码器'技术，将模型内部的数百万个特征分解为可解释的概念单元，首次实现了对GPT-4级别模型决策过程的实时追踪和解释。加州伯克利AI安全中心发布'AIRS'（AI Risk Score）评估框架，对全球主流大模型进行安全评分。GPT-5得分87/100，Gemini 2.5 Ultra得分91/100，Claude
AFRL借力人工智能预判卫星隐患
AFRL借力人工智能预判卫星隐患 装备质量 · 电子信息AFRL借力人工智能预判卫星隐患装备质量 · 电子信息美国空军研究实验室（AFRL）正着手运用人工智能技术保障卫星在轨运行状态——研制一款可捕捉故障先兆的预警系统，并能阐明判断依据。依据双方签署的合作研发协议，AFRL将引入PiLogic公司Exact AI技术对航天器电力子系统展开分析，协助工程人员深入把握 Freeman 系统运作规律、增强卫星运行稳定性。PiLogic公司首席执行官Johannes Waldstein指出：「此次携手将推动我们更
AI风险获保：排除与专属保障并存
2026年，保险界正进行一项颇具趣味的尝试：一方面将AI风险从传统合同中剔除，另一方面又专门推出针对AI失误的保险产品。2026年1月，由保险数据与风险分析机构Verisk主导的AGI排除背书正式实施。这是一套标准化的保险条款范本，核心含义非常明确：若AI出现失误，传统责任险将不再自动承担赔偿。以往涉及AI的责任风险——例如AI核保模型定价失误、AI理赔系统误判案件等——究竟应由责任险、董责险覆盖，还是无人承保，长期处于模糊地带。Verisk的条款模板将这一问题明确化：未在条款中明确承保的风险，即视为不予
AI赋能生物材料：智能驱动研发新范式
人工智能正重塑生物材料研发模式，从‘试错’转向‘预测’，从‘经验主导’升级为‘数据驱动’。在人类对抗疾病的漫长历程中，生物材料始终是沉默而关键的基石。从早期人工关节到如今可降解心脏支架，从基础填充物到能诱导组织再生的智能材料，生物材料已历经三代演进。然而，每一次突破背后，都是科研人员数十年的反复试验与验证。传统研发如同盲人摸象——成本高昂、周期漫长、效率低下。如今，人工智能正掀起一场颠覆性变革。在理解AI如何改变研发之前，需先厘清生物材料的发展脉络。生物材料三代技术演进：a) 第一代（生物惰性）：植入后不
人工智能渗透关键设施：安全挑战与合规之道
前文探讨了对抗攻击——恶意方如何直接破坏AI系统。本文聚焦一个更宏观的议题：人工智能正深度嵌入关键信息基础设施。电力网络借助AI调配、金融机构运用AI控险、轨道交通依赖AI调度、医疗系统采用AI诊断、政务服务启用AI审批。这并非未来展望，而是当前现实。核心难题在于：关键信息基础设施一旦出故障，波及的不是个体或企业——而是国家安全与社会民生。2025年5月，贵州某政务平台遭入侵，民众受损超400万元。护网-2025专项活动将其列为首要案例。2026年4月，Dragos报告揭示：攻击者利用AI精准打击美国某水