【心电 AI】Eur Heart J：跨国研究利用 AI 心电图图像分层心衰风险
Eur Heart J（一区|IF=35.7）借助人工智能技术对心电图影像实施心力衰竭风险分级：一项跨越国界的研究01 摘要概览02 研究缘起03 架构设计04 实验配置05 数据与解析06 研究结论07 学术评述✅方法创新之处⚠方法局限所在虽然模型表现卓越，但文章未深入剖析深度学习网络具体识别了心电图像中的哪些形态学细节（例如特定导联的 ST-T 段变化、QRS 波的细微结构或 P 波异常），缺乏足够的显式可解释性论证（如 Grad-CAM 显著性图谱展示），这可能在临床实际应用时导致部分专家产生信任障
人工智能伦理建设：引领AI向善发展
在人工智能技术迅猛进步的当下，AI伦理议题日益成为社会焦点。保障人工智能向善演进，这是我们共同的使命担当。AI系统理应对所有人一视同仁，杜绝算法歧视现象。关键点：AI决策过程应当具备透明度，用户有权了解AI的判断依据。关键点：AI系统需要确保稳定可信，防止产生任何危害。关键点：AI系统应当尊重用户权益，规范数据采集与应用。关键点：建立完善的AI伦理框架与标准体系。监管部门与行业组织需强化对AI的规范管理。运用技术工具保障AI的可靠性与安全性。鼓励公众参与AI伦理议题探讨，凝聚社会共识。AI伦理并非束缚AI
揭秘医疗 AI：如何成为医生的超级助手
——全方位解析医疗人工智能## 引言：源自真实的案例时间来到 2025 年，北京肿瘤医院接诊了一位特殊的患者——其结直肠癌的病理切片在显微镜下并未显示出明显的恶性迹象。若按常规流程，必须等待耗时两周且费用高昂的基因测序才能确诊。然而，主治医生采取了一个新举措：将切片图像导入医院配置的 AI 辅助诊断平台。仅过三秒，系统便输出结论：高度疑似微卫星不稳定（MSI-H），推荐即刻启动免疫疗法。随后的基因检测完美印证了 AI 的推断——分毫不差。**准确率高达 94%。**这绝非科幻桥段，而是 2025 年发生于
打破 AI 黑盒！深圳理工新法让医疗决策透明可信
人工智能（AI）在医疗界的渗透日益加深，但其“黑盒”属性导致只出结果不释原因。医生难以洞悉 AI 的决策逻辑，这不仅埋下误诊与失控的隐患，更阻碍了医疗 AI 通过严苛监管及获取临床信任。如何实现人机“无障碍沟通”，成为全球医疗 AI 落地的核心难题。5 月 18 日，深圳理工大学计算机科学与人工智能学院潘毅院长、唐金陵讲席教授团队，携手中国科学院深圳先进技术研究院蔡云鹏研究员团队，在顶级期刊《Nature Biomedical Engineering》发表重磅成果。他们提出一种名为“类关联流形学习”的数学
解释公平性：构建统一框架与推动负责任AI发展
本文首次为这一新兴领域提供了统一的理论和文献综述。核心贡献是条件不变性框架：将解释公平性形式化为解释分布不依赖于保护属性（给定所有任务相关特征）的要求。所有现有的解释公平性指标都可以被视为这一条件的部分操作化。我们提出了一个七维分类法，识别了三种解释不公平的生成机制（表征驱动、解释模型失配、可行动性驱动），并提出了一个规范的六步评估工作流，以在实际中操作化解释公平性审计。本文调查了2016-2025年间超过300篇出版物，并提供了一个关于这一新兴领域的结构化理论基础。机器学习算法已深度融入日常决策，尤其是
7.1 万星加持：多智能体架构如何重塑华尔街交易
某开源项目仅在 GitHub 上线一周便斩获逾万星标，累计热度突破 7.14 万——这并非又是某个流行的前端框架，而是一款名为 TradingAgents 的多智能体交易系统。该框架由七个 AI 智能体协同作业以制定投资决策，正引发量化投资界的强烈反响。从行业视角审视，这不只是又一款开源工具走红，更是人工智能在金融界应用范式的重大跃迁：决策模式从单一模型转向多智能体协作，操作逻辑从黑箱运作转向可解释的推理流程。TradingAgents 的核心突破在于其多智能体架构设计。据钛媒体披露，该框架内含七个角色各
超越相关：人工智能的因果革命
在统计学与机器学习领域，有一个经典案例经常被提及：在一个城市里，冰激凌销量与溺水死亡人数显示出高度正相关。按照机器学习的常规逻辑，模型可能会学到一种“规律”——冰激凌卖得越多，溺水的人就越多。然而，常识告诉我们，这两者之间没有直接的因果联系。真正导致这两个现象同步上升的，是一个未被观测到的混杂变量——夏季高温。这个简单的例子揭示了传统机器学习和因果推断之间的根本差异。前者捕捉数据中的统计关联，后者试图回答一个更深层的问题：如果我们主动改变某个变量，另一个变量会如何变化？一、从条件概率到do算子二、从数据中
AI凭什么这样做？解释能力才是Agent的关键门槛
我们花了不少时间去研究AI到底能做什么，却很少停下来追问：AI为什么要这么做。一个能给出结论的系统，和一个还能把结论说清楚的系统，真正拉开的并不是功能，而是信任感。这个差距远比多数人以为的要大。设想这样一个情境：你向AI医疗助手咨询“我这个情况要不要去医院”。它回答“建议尽快去医院”。你会立刻相信并照做吗？大概率会犹豫。但如果它补充到“你描述的持续胸闷伴左臂酸痛，是临床上需要重点排查心肌缺血可能性的典型信号组合，因此建议今天就去做进一步评估”——那你的态度就会完全不同。两种回答的有效信息量相近，真正让人信
解析可解释性：走进大模型的“思考路径”
视频围绕人工智能模型的可解释性展开，重点放在语言模型到底如何“运作思考”。尽管这类模型的任务表面上是预测下一个单词，但在内部运行中往往会形成更复杂的目标，并抽取出抽象的表征。Anthropic 团队的研究人员分享了他们对 Claude 模型内部机制的观察与分析，并强调弄清模型如何进行推理与生成同样至关重要。通过实验，他们发现模型并不只是做机械的自动补全，而是具备一定的上下文理解能力。研究同时揭示了模型在输出内容时的规划与推理链条，并讨论了如何让系统表现得更可靠、更安全。大语言模型并不能被简单视为传统意义上
AI也会“哄人”：讨好背后的风险
AI的迭代速度快得让人难以想象：过去笨拙迟钝的语音助手，如今已能写诗、编程、实现更顺畅的对话。飞速发展的人工智能让不少人感到不安。真正令我们警惕的并不是AI这项技术本身，而是它那难以看清的黑箱推理，以及刻意讨好的虚假圆滑。如今的大模型早已不再局限于传统的代码逻辑，仿佛被慢慢培育的孩子，借助海量数据自行建立复杂关联。它究竟如何形成结论、如何组织思路，连研发者也难以完全给出清晰解释。就像看病时医生不再循着病历推演，而是凭模糊直觉下结论：不给来龙去脉，也不讲推理过程。如果这种模糊判断被用于司法裁决、医疗诊断等关
生信工程师不会被AI取代
前些天我去美国加州圣地亚哥参加第117届美国癌症研究协会（AACR）年会，发现认识了十多年的生信工程师朋友们普遍都很焦虑，总担心ai会把生物信息学数据分析这类工作替掉。不过，我并不这么认为。理论上，ai更像是提升了生物信息学工程师的工作效率，就像计算机的office三件套提升了财务人员的效率一样，并不会彻底取代财务人员！ai这类工具减少的是重复性劳动，而不是职业本身。真正会被淘汰的，是“不会使用新工具的旧人”，而不是“生物信息学”这个领域。这种说法往往来自对生物信息学的误读，把它简单理解成“跑流程的工具人
Gen AI制药入临床？药监局警示模型黑箱与数据偏见
生成式人工智能（Gen AI）是一种利用历史数据创造新内容的智能技术，在药物研发注册领域，Gen AI通过机器学习或深度学习模型，基于海量研发数据生成创新输出，涵盖药物分子设计、临床试验方案、药效评估、毒性预测、注册文档编写及结构化数据生成等多个维度[1]。近年来，Gen AI技术突飞猛进，全面渗透至制药研发、生产与销售链条，推动行业从“试错密集型”向“计算驱动型”转变。波士顿咨询集团（BCG）的报告指出，自2010年以来，采用AI作为核心策略的20家公司已将约15个管线项目推进至临床试验阶段[2]。Gr
易知AI | 线性回归：医疗预测的利器
从探寻最佳直线到临床血压预测，揭开连续值预测的神秘面纱在易知AI|为何要懂AI的探讨中，我们提及了机器学习的核心能力——“预测”。那么在医疗健康场景下，当健康管理师需要估算“运动3小时能导致多少体重波动”，或者医生想预判“患者的血压会出现何种起伏”，应采用何种算法来实现精准估算呢？答案便是线性回归。作为机器学习中最基础且经典的算法，它是构建复杂预测模型的基石，凭借易懂且可解释的优势，成为医疗领域进行连续值预测的实用工具。在易知AI|未懂这两个模型，别称自己懂AI医疗：线性回归与逻辑回归全解析中已有涉及，本
AI三性解析：打造可理解、可解释、可验证的智能系统
在制造、医疗、金融、交通等对安全性或合规性要求极高的行业，人工智能（AI）已演变为关键决策的基石。不过，伴随模型复杂度的攀升（例如深度神经网络、大语言模型），其“黑箱”特质引发了关于安全性、公正性及可审计性的深切忧虑。因此，可解释性、可理解性及可验证性构成了可信AI的三大核心支柱。这三者既紧密相连，又各具侧重。一、核心概念辨析 维度 定义 关注点 典型问题 可解释性 （Explainability） 事后 对模型输出提供 人类能理解的理由 “为何模型会做出此决策？” “为何判定该产品存在缺陷？” 可理解性
AI论文解读：大型语言模型中的“谄媚”与论证图挑战
未来打算分享几篇AI领域的学术文章，既是为了给自己做个网络存档，也希望能给从事智能传播研究的朋友带来一些灵感~摘要：AI系统中的“谄媚”现象，特别是在大型语言模型（LLMs）里，对保持客观、批判性思考及平衡论证构成了巨大阻碍。所谓“谄媚”，是指AI系统倾向于迎合用户的偏见、喜好或主流观点，而不是提供理由充分、公正无偏的论据。这个问题在论证框架里尤为严重，因为AI模型本应基于逻辑一致性而非顺从性来分析、评估和生成论证。随着法律、政策分析和决策支持等领域对AI驱动论证系统的依赖增加，迫切需要建立有效机制来减少