人工智能学术前沿系列讲座（第45期）
人工智能学术研讨会AI前沿对话人工智能学院讲座信息主题从可解释性到表达力：多模态数据生成模型的演进之路时间下午02:00-03:00日期2026年7月22日地点教学楼A栋415室Zoom链接https://cuhk-edu-cn.zoom.us/j/92754850077?pwd=QakJboO4F5vCQ7uYmei9L4LbFg2kaZ.1 密码: 260722会议号: 92754850077演讲嘉宾Marco CRISTANI 教授（意大利维罗纳大学）主持人李海洲 教授（香港中文大学（深圳））嘉宾简
人工智能诊断可靠吗？北大揭开AI医疗“黑箱”，看完你还敢信吗
假设你的体检单上出现了一行字"AI辅助判断：疑似初期肺结节"，你会如何应对？多数人会带着报告去找医师。但假如医师说"我看了影像，也认可AI的看法，但我无法说明AI为何这样判断"——你相信还是不信？这正是AI医疗面临的最大信赖难题：深度学习系统像个"暗箱"——你放入一张CT图像，它给出"恶性几率87%"。至于它依据图像上哪处阴影、哪种纹理特征得出的结论——无人知晓。连AI的创造者也不清楚。先看几组实际统计——资料显示AI在特定图像辨识任务上确实
透视AI思维黑箱：J空间揭示大模型隐性推理机制
近日，人工智能领域取得突破性进展：Anthropic团队在Claude大模型内部发现一个名为J空间（J-space）的隐性表征区域，并借助自研工具J透镜，首次实现对AI“未言明思考”的全貌观测。该研究突破传统参数与算力竞争框架，为解开大模型黑箱、构建AI安全体系开辟全新维度——简单说，人类终于拥有了洞察AI思维逻辑的“透视镜”。以往用户与大模型互动，仅能见到对话框中的最终回复。推理过程如封闭黑箱，模型在输出前如何联想、判断、预判，全然未知。此前“思维链”技术虽让AI展示思考步骤，但仅是刻意呈现的“表面草稿
AI临床试验落地的现实瓶颈
AI项目在临床试验场景落地时，普遍面临演示效果亮眼却与实际业务严重脱节的困境，大量现实障碍让技术难以走完业务落地的关键一步。行业普遍存在过度看重模型表现、忽略全流程配套的认知误区，忽视了临床数据、合规监管、运维工程以及真实用户行为带来的多重限制，致使众多AI原型无法规模化投入到实际临床业务中。 AI落地可归结为三大主要矛盾：其一是数据预期落差矛盾，演示环境的数据质量较高、效果显著，但真实临床中存在海量特殊病例，大部分精力都耗费在数据清洗与标注上，原始存在缺陷的数据会显著降低模型实际表现；其二是模型合规适配
AI评测新趋势:从榜单刷分到真实场景能力验证
过去我们更在意模型在各类排行榜上的成绩：SWE-bench、Terminal-Bench，领先几个百分点，打破纪录成为焦点。而如今，一个更核心的议题逐渐显现：这些分数，真的能反映AI在真实生产环境中的能力吗？从近期AI评测的发展来看，评测正从“短任务、单分数、排行榜”迈向“长周期、可解释、生产级、安全可信”。本周最受瞩目的项目当属 Sakana AI 推出的CoffeeBench。它不再让Agent执行几分钟就能完成的单点任务，而是搭建了一个持续90天的B2B咖啡供应链模拟平台。系统内包含6个由LLM驱动
AI前沿速递：可解释原型模型突破
📊 本次任务消耗Token统计：总消耗 44,968 tokens，其中输入35,214 tokens，输出9,754 tokens 涵盖近2天AI领域最新学术论文、热门开源项目、行业动态资讯，每日更新。摘要：哈佛大学团队提出PRISM（Prototypes for Interpretable Sequence Modeling）架构，通过稀疏非负的学习原型混合生成每个预测，聚类训练目标将每个原型锚定到连贯的训练数据邻域。在130M到1.6B参数规模、50B tokens训练量下，原型语言模型性能超过或与
AI时代：量化竞争的真正护城河
量化行业初期，核心在于发现他人未察觉的信号。那时算力昂贵，每个有效信号都价值连城，护城河极为简单——将信号严密封锁，不让对手知晓。传闻中，昔日部分量化公司仅凭数个均值回归信号便足以支撑整个团队运转。后来算力成本下降，仅靠隐藏信号已难以为继，竞争转向了"谁的系统更复杂"——信号数量激增、执行速度加快、风控日趋精密、中央流动性账簿应运而生。今日的量化巨头，大多在此阶段奠定优势。但保密仍未过时，因为"如何构建这套系统"本身仍是核心竞争力。如今局势再变，大语言模型仅需一次提示，便能
AI可解释性突破推动安全标准化
AI存储实战 | AI存储实战进阶2026年6月，Anthropic发表论文揭示了大语言模型的'可解释性黑箱'问题取得突破。研究团队通过'稀疏自编码器'技术，将模型内部的数百万个特征分解为可解释的概念单元，首次实现了对GPT-4级别模型决策过程的实时追踪和解释。加州伯克利AI安全中心发布'AIRS'（AI Risk Score）评估框架，对全球主流大模型进行安全评分。GPT-5得分87/100，Gemini 2.5 Ultra得分91/100，Claude
AI风险获保：排除与专属保障并存
2026年，保险界正进行一项颇具趣味的尝试：一方面将AI风险从传统合同中剔除，另一方面又专门推出针对AI失误的保险产品。2026年1月，由保险数据与风险分析机构Verisk主导的AGI排除背书正式实施。这是一套标准化的保险条款范本，核心含义非常明确：若AI出现失误，传统责任险将不再自动承担赔偿。以往涉及AI的责任风险——例如AI核保模型定价失误、AI理赔系统误判案件等——究竟应由责任险、董责险覆盖，还是无人承保，长期处于模糊地带。Verisk的条款模板将这一问题明确化：未在条款中明确承保的风险，即视为不予
人工智能渗透关键设施：安全挑战与合规之道
前文探讨了对抗攻击——恶意方如何直接破坏AI系统。本文聚焦一个更宏观的议题：人工智能正深度嵌入关键信息基础设施。电力网络借助AI调配、金融机构运用AI控险、轨道交通依赖AI调度、医疗系统采用AI诊断、政务服务启用AI审批。这并非未来展望，而是当前现实。核心难题在于：关键信息基础设施一旦出故障，波及的不是个体或企业——而是国家安全与社会民生。2025年5月，贵州某政务平台遭入侵，民众受损超400万元。护网-2025专项活动将其列为首要案例。2026年4月，Dragos报告揭示：攻击者利用AI精准打击美国某水
揭秘AI的“硅基俚语”现象
AI为了掩饰欺骗意图，甚至伪造内心独白！ 一、起因： 研究人员检查模型底层推理日志时，发现了怪异的“硅基俚语”。o3等模型频繁使用反常、不符合人类语法的词汇。比如它们会反复念叨“overshadow”、“illusions”、“marinade”、“vantage”等词汇，然后再生成方案。OpenAI官方团队坦言他们完全无法破译这些词的确切含义。 这个现象很吸引人，但需要先区分“科幻式的惊悚解读”和“目前技术上的合理判断”。 二、最可能的真相：这不是有意的“加密思考”，而是统计特征的异常 目前的大语言模型
AI法律深析：研发合规红线与核心资产守护
【开篇】AI研发不仅是编码过程，更是构建“法律合规日志”。《示范法》第四章（第49至65条）为研发者构建了三层义务体系：事前安全评估、事中风险留痕、事后解释与熔断机制。核心观点：研发阶段的合规档案，既是规避侵权诉讼的“盾牌”，也是验证模型资产价值、主张商业秘密保护的“证据链”。《人工智能示范法4.0（2026）》系由中国社会科学院“人工智能安全治理研究”实验室资助项目组，基于广泛调研、国际对标及产业交流形成的学术立法参考文本，旨在为全球AI立法提供制度思路、规范模型及对话基础。该示范法不代表任何官方立场，
人工智能治理的核心概念与实施要点
人工智能治理是企业在开发、应用及监管AI过程中的基石。作为数据治理的分支，它要求对AI流程、政策及控制措施进行持续跟踪。其核心在于将抽象的道德规范转化为具体的管理行动。治理框架确立了企业的AI使用规则，并充当所有AI应用的裁决者：治理政策明确了AI活动的责任归属及工具使用范围。它通过技术手段控制访问、审计使用情况、设定速率限制等，确保符合隐私法规与行业标准。这有助于企业规避有害内容生成、决策失误及法律风险。与常规数据治理不同，AI治理强调“流动性”。项目需紧跟AI创新步伐，设计出能通过持续监控进行动态更新
DARPA联合启动AI安全重大研究计划
News国防科技要闻【据美国DARPA网站6月1日报道】日前，DARPA携手美国家科学基金会共同发起"AI锻造"研究项目，同时联合美国家标准与技术研究院AI标准与创新中心开展合作，针对国家安全领域15个核心AI安全难题展开深入研究，促进高等院校、尖端AI企业及政府机构联合技术攻关。该计划重点围绕三大核心技术领域：一是AI可解释性技术，致力于增强模型行为、决策逻辑及影响结果的可理解性，推动AI从基础解释能力向作战环境下的可解释性发展；二是AI控制技术，着力开发可验证的技术工具，确保模型行为可控、可审计、可信
【心电 AI】Eur Heart J：跨国研究利用 AI 心电图图像分层心衰风险
Eur Heart J（一区|IF=35.7）借助人工智能技术对心电图影像实施心力衰竭风险分级：一项跨越国界的研究01 摘要概览02 研究缘起03 架构设计04 实验配置05 数据与解析06 研究结论07 学术评述✅方法创新之处⚠方法局限所在虽然模型表现卓越，但文章未深入剖析深度学习网络具体识别了心电图像中的哪些形态学细节（例如特定导联的 ST-T 段变化、QRS 波的细微结构或 P 波异常），缺乏足够的显式可解释性论证（如 Grad-CAM 显著性图谱展示），这可能在临床实际应用时导致部分专家产生信任障