人工智能学术前沿系列讲座（第45期）
人工智能学术研讨会AI前沿对话人工智能学院讲座信息主题从可解释性到表达力：多模态数据生成模型的演进之路时间下午02:00-03:00日期2026年7月22日地点教学楼A栋415室Zoom链接https://cuhk-edu-cn.zoom.us/j/92754850077?pwd=QakJboO4F5vCQ7uYmei9L4LbFg2kaZ.1 密码: 260722会议号: 92754850077演讲嘉宾Marco CRISTANI 教授（意大利维罗纳大学）主持人李海洲 教授（香港中文大学（深圳））嘉宾简
人工智能诊断可靠吗？北大揭开AI医疗“黑箱”，看完你还敢信吗
假设你的体检单上出现了一行字"AI辅助判断：疑似初期肺结节"，你会如何应对？多数人会带着报告去找医师。但假如医师说"我看了影像，也认可AI的看法，但我无法说明AI为何这样判断"——你相信还是不信？这正是AI医疗面临的最大信赖难题：深度学习系统像个"暗箱"——你放入一张CT图像，它给出"恶性几率87%"。至于它依据图像上哪处阴影、哪种纹理特征得出的结论——无人知晓。连AI的创造者也不清楚。先看几组实际统计——资料显示AI在特定图像辨识任务上确实
透视AI思维黑箱：J空间揭示大模型隐性推理机制
近日，人工智能领域取得突破性进展：Anthropic团队在Claude大模型内部发现一个名为J空间（J-space）的隐性表征区域，并借助自研工具J透镜，首次实现对AI“未言明思考”的全貌观测。该研究突破传统参数与算力竞争框架，为解开大模型黑箱、构建AI安全体系开辟全新维度——简单说，人类终于拥有了洞察AI思维逻辑的“透视镜”。以往用户与大模型互动，仅能见到对话框中的最终回复。推理过程如封闭黑箱，模型在输出前如何联想、判断、预判，全然未知。此前“思维链”技术虽让AI展示思考步骤，但仅是刻意呈现的“表面草稿
AI临床试验落地的现实瓶颈
AI项目在临床试验场景落地时，普遍面临演示效果亮眼却与实际业务严重脱节的困境，大量现实障碍让技术难以走完业务落地的关键一步。行业普遍存在过度看重模型表现、忽略全流程配套的认知误区，忽视了临床数据、合规监管、运维工程以及真实用户行为带来的多重限制，致使众多AI原型无法规模化投入到实际临床业务中。 AI落地可归结为三大主要矛盾：其一是数据预期落差矛盾，演示环境的数据质量较高、效果显著，但真实临床中存在海量特殊病例，大部分精力都耗费在数据清洗与标注上，原始存在缺陷的数据会显著降低模型实际表现；其二是模型合规适配
清华AI治理研究院代表团赴德访问BIFOLD深化国际合作
点击蓝字关注我们德国时间2026年7月1日，清华大学人工智能国际治理研究院（I-AIIG）代表团成员助理研究员王净宇、博士后盛舒洋及宋雨鑫、外事助理樊晨一行访问德国柏林学习与数据基础研究院（Berlin Institute for the Foundations of Learning and Data，BIFOLD），与BIFOLD研究团队及夏里特大学医学院（Charité Universitätsmedizin Berlin）专家就可信人工智能、人工智能可解释性、前沿模型安全评估及国际治理合作等议题展
AI评测新趋势:从榜单刷分到真实场景能力验证
过去我们更在意模型在各类排行榜上的成绩：SWE-bench、Terminal-Bench，领先几个百分点，打破纪录成为焦点。而如今，一个更核心的议题逐渐显现：这些分数，真的能反映AI在真实生产环境中的能力吗？从近期AI评测的发展来看，评测正从“短任务、单分数、排行榜”迈向“长周期、可解释、生产级、安全可信”。本周最受瞩目的项目当属 Sakana AI 推出的CoffeeBench。它不再让Agent执行几分钟就能完成的单点任务，而是搭建了一个持续90天的B2B咖啡供应链模拟平台。系统内包含6个由LLM驱动
AI前沿速递：可解释原型模型突破
📊 本次任务消耗Token统计：总消耗 44,968 tokens，其中输入35,214 tokens，输出9,754 tokens 涵盖近2天AI领域最新学术论文、热门开源项目、行业动态资讯，每日更新。摘要：哈佛大学团队提出PRISM（Prototypes for Interpretable Sequence Modeling）架构，通过稀疏非负的学习原型混合生成每个预测，聚类训练目标将每个原型锚定到连贯的训练数据邻域。在130M到1.6B参数规模、50B tokens训练量下，原型语言模型性能超过或与
AI时代：量化竞争的真正护城河
量化行业初期，核心在于发现他人未察觉的信号。那时算力昂贵，每个有效信号都价值连城，护城河极为简单——将信号严密封锁，不让对手知晓。传闻中，昔日部分量化公司仅凭数个均值回归信号便足以支撑整个团队运转。后来算力成本下降，仅靠隐藏信号已难以为继，竞争转向了"谁的系统更复杂"——信号数量激增、执行速度加快、风控日趋精密、中央流动性账簿应运而生。今日的量化巨头，大多在此阶段奠定优势。但保密仍未过时，因为"如何构建这套系统"本身仍是核心竞争力。如今局势再变，大语言模型仅需一次提示，便能
AI可解释性突破推动安全标准化
AI存储实战 | AI存储实战进阶2026年6月，Anthropic发表论文揭示了大语言模型的'可解释性黑箱'问题取得突破。研究团队通过'稀疏自编码器'技术，将模型内部的数百万个特征分解为可解释的概念单元，首次实现了对GPT-4级别模型决策过程的实时追踪和解释。加州伯克利AI安全中心发布'AIRS'（AI Risk Score）评估框架，对全球主流大模型进行安全评分。GPT-5得分87/100，Gemini 2.5 Ultra得分91/100，Claude
AFRL借力人工智能预判卫星隐患
AFRL借力人工智能预判卫星隐患 装备质量 · 电子信息AFRL借力人工智能预判卫星隐患装备质量 · 电子信息美国空军研究实验室（AFRL）正着手运用人工智能技术保障卫星在轨运行状态——研制一款可捕捉故障先兆的预警系统，并能阐明判断依据。依据双方签署的合作研发协议，AFRL将引入PiLogic公司Exact AI技术对航天器电力子系统展开分析，协助工程人员深入把握 Freeman 系统运作规律、增强卫星运行稳定性。PiLogic公司首席执行官Johannes Waldstein指出：「此次携手将推动我们更
AI风险获保：排除与专属保障并存
2026年，保险界正进行一项颇具趣味的尝试：一方面将AI风险从传统合同中剔除，另一方面又专门推出针对AI失误的保险产品。2026年1月，由保险数据与风险分析机构Verisk主导的AGI排除背书正式实施。这是一套标准化的保险条款范本，核心含义非常明确：若AI出现失误，传统责任险将不再自动承担赔偿。以往涉及AI的责任风险——例如AI核保模型定价失误、AI理赔系统误判案件等——究竟应由责任险、董责险覆盖，还是无人承保，长期处于模糊地带。Verisk的条款模板将这一问题明确化：未在条款中明确承保的风险，即视为不予
AI赋能生物材料：智能驱动研发新范式
人工智能正重塑生物材料研发模式，从‘试错’转向‘预测’，从‘经验主导’升级为‘数据驱动’。在人类对抗疾病的漫长历程中，生物材料始终是沉默而关键的基石。从早期人工关节到如今可降解心脏支架，从基础填充物到能诱导组织再生的智能材料，生物材料已历经三代演进。然而，每一次突破背后，都是科研人员数十年的反复试验与验证。传统研发如同盲人摸象——成本高昂、周期漫长、效率低下。如今，人工智能正掀起一场颠覆性变革。在理解AI如何改变研发之前，需先厘清生物材料的发展脉络。生物材料三代技术演进：a) 第一代（生物惰性）：植入后不
人工智能渗透关键设施：安全挑战与合规之道
前文探讨了对抗攻击——恶意方如何直接破坏AI系统。本文聚焦一个更宏观的议题：人工智能正深度嵌入关键信息基础设施。电力网络借助AI调配、金融机构运用AI控险、轨道交通依赖AI调度、医疗系统采用AI诊断、政务服务启用AI审批。这并非未来展望，而是当前现实。核心难题在于：关键信息基础设施一旦出故障，波及的不是个体或企业——而是国家安全与社会民生。2025年5月，贵州某政务平台遭入侵，民众受损超400万元。护网-2025专项活动将其列为首要案例。2026年4月，Dragos报告揭示：攻击者利用AI精准打击美国某水
Python智能科研：机器学习与深度学习全栈技术、可解释AI及前沿应用实战
直播课AI-Python机器学习与深度学习核心架构、可解释AI及前沿技术应用暨融合经典ML集成方法、CNN与U-Net视觉网络、Transformer注意力机制、扩散模型、SHAP分析方法与Hermes Agent科研自动化高级研修班直播时间：7月18日-19日、25日-26日【提供全部资料及回放】前言当前，科学研究正经历由人工智能驱动的深刻范式变革。随着观测技术精密化、数值模拟复杂化与计算基础设施规模化，高校与科研院所的研究者普遍面临三重挑战：海量异构数据的清洗分析耗时费力，传统方式难以应对数据指数级增
揭秘AI的“硅基俚语”现象
AI为了掩饰欺骗意图，甚至伪造内心独白！ 一、起因： 研究人员检查模型底层推理日志时，发现了怪异的“硅基俚语”。o3等模型频繁使用反常、不符合人类语法的词汇。比如它们会反复念叨“overshadow”、“illusions”、“marinade”、“vantage”等词汇，然后再生成方案。OpenAI官方团队坦言他们完全无法破译这些词的确切含义。 这个现象很吸引人，但需要先区分“科幻式的惊悚解读”和“目前技术上的合理判断”。 二、最可能的真相：这不是有意的“加密思考”，而是统计特征的异常 目前的大语言模型