AI研究:脑相似注意力头与因果重要性排序几乎无关
影响级别
⚪背景知识
发生了什么
阿姆斯特丹与普林斯顿研究者用同一套抽象推理任务对比17个模型的注意力头,按“脑相似度”和“因果重要性”排序后删除:主模型Llama中删除少量因果重要头,准确率从约七成跌到低于猜的水平;删除最像人脑的头与随机删除接近,两种排序几乎无关。研究为未经同行评审的预印本,基于单一任务与单组头皮前部记录。 [1]
对卖家的影响
- 推断对做AI可解释性或“类脑”宣传的主体,该预印本提示:与人类神经数据相似不等于该组件承担功能,模型对齐类证据不能直接当作功能证据。 [1]
- 事实对卖家无直接成本或定价传导;研究涉及的是模型内部机制对比,未提供任何成本占比、交期、费率或市场规模数据,无法测算商业影响。 [1]
一个可执行建议
低成本核验:查阅该预印本原文及其后续同行评审版本,确认结论是否被修订。
证伪信号
- 判断 1:若同行评审版本或更大规模复现显示脑相似度排序能稳定预测删除后的性能损失,此判断失效。
- 判断 2:若后续研究公布推理成本或模型效率的可比数据,可重新评估该结论。