研究警告：不应盲信医学影像 AI 的热力图

IIIT-H 语言技术研究中心测试了 MAIRA-2、MedGemma-4B、LLaVA-Med-1.5 和 LLaVA-1.5 四个模型，用数千张公开胸部 X 光片比较其热力图与放射科医生的判断。研究发现模型生成的热力图与医生认定的病灶区域存在差异，且模型可能先得出诊断再倒推热力图位置；移除诊断信息后，模型定位相关区域的能力下降。