安省AI医疗记录工具被曝严重隐患，近半数系统存在内容捏造问题
5月12日，安省审计总长斯彭丝女士（Shelley Spence）在新发布的特别报告警告，安省家庭医生常用的人工智能（AI）病历记录工具“AI Scribe”存在信息造假和建议失实等严重风险，部分系统在官方测试中高达45%曾编造治疗内容。据Global News报道：“AI Scribe”是安省医疗体系近年引入的一种人工智能（AI）病历记录工具，帮助家庭医生、护士和治疗师在诊疗时自动生成病历笔记。患者授权后，该系统会实时听取医患对话，并自动整理出主观描述、客观体征、诊断评估和治疗方案（简称 SOAP 四项
家长过度信赖AI诊断延误病情,少年痛失睾丸,急诊医生:必须手术切除
全球多个地区纷纷推出人工智能问诊与处方审核系统。此类系统不仅能够模拟真人对话、主动询问症状表现，甚至可以自动开具处方、审核配方。不过，AI问诊真的值得信赖吗？有家长因盲目相信人工智能的判断，致使孩子失去一侧睾丸；还有人依照AI的建议，给自己施行了手术。为何这些患者没有及时前往医院就诊？AI给出的诊断又为何如此荒谬？AI诊疗引发严重后果：有人丧失睾丸，还有人自行实施手术近期，一位14岁男孩的母亲因过分信任AI，让儿子承受了惨痛代价。[1]男孩起初出现下腹部疼痛，睾丸触感变硬。家长起初怀疑是便秘问题，随即向A
最新研究曝光AI致命缺陷
简而言之，即便不接收任何图像信息，目前领先的多模态大模型（例如GPT-5、Gemini 3 Pro等）仍可'无中生有'地输出详尽的图像描述与看似合理的推理链条。研究团队经由多轮对比测试证实，这类模型在处理视觉相关问题时，主要依靠问题文本中的提示、训练数据内嵌的潜在模式及统计相关性，而非真正'理解'了图像内容。更具威胁性的是，在医学应用领域中，这种虚构的诊断结果往往倾向于重度病理特征（如凭空判定心肌梗死或黑色素瘤），为医疗AI系统的实际落地埋下了严重安全风险。研究者为此设计了'幻象评分'（Mirage Sc