最新研究曝光AI致命缺陷

简而言之，即便不接收任何图像信息，目前领先的多模态大模型（例如GPT-5、Gemini 3 Pro等）仍可'无中生有'地输出详尽的图像描述与看似合理的推理链条。研究团队经由多轮对比测试证实，这类模型在处理视觉相关问题时，主要依靠问题文本中的提示、训练数据内嵌的潜在模式及统计相关性，而非真正'理解'了图像内容。更具威胁性的是，在医学应用领域中，这种虚构的诊断结果往往倾向于重度病理特征（如凭空判定心肌梗死或黑色素瘤），为医疗AI系统的实际落地埋下了严重安全风险。研究者为此设计了'幻象评分'（Mirage Sc