耶鲁研究揭示 Claude、ChatGPT 等 LLM 如何像人类一样进行符号推理

耶鲁计算语言学家 Tom McCoy 领衔的研究发现，驱动 Claude、ChatGPT 等 LLM 的向量以特定方式组织，隐含等价于人类认知中的符号结构。研究者用"填充者-角色"张量积表示替换 LLM 的向量后，模型行为基本不变，该结论在语言、算术、逻辑和编程四个领域的七个大模型上成立。他们还能通过精确干预向量表示，让模型把"clever doctor"的修饰对象从主语改为宾语。