arXiv cs.CL· Jacob Russin, Joonhwa Kim, Ellie Pavlick, Michael J. Frank·· 10 小时前AI 评分38
人类与神经网络中的几何推理与代数推理
Geometric and algebraic inference in humans and neural networks
AI 导读
研究将人类推理形式化为几何策略与代数策略：前者通过逐步塑造表征几何结构让后续推理变廉价，后者在推理时灵活关注上下文中的新关系但需额外计算。在传递性推理任务中，人类、从头训练的神经网络和 LLM 均表现出这两种策略的对立特征，关系熟悉时几何策略占优，需在上下文中做全新推理时代数策略出现。对神经网络的因果干预显示，两种策略分别依赖表征几何与选择性注意机制，并复现了人类类似神经生物学损伤的影响。
正文 · AI 翻译
摘要：人类拥有从有限数据中进行推断的非凡能力。有些推断是凭过往经验直觉做出的，另一些则需要对上下文中给出的新信息进行在线推理。在此，我们将这些策略形式化，分别称为几何推断与代数推断，并研究它们在人脑和神经网络中的计算权衡。几何策略逐步塑造表征几何，以反映潜在的关系结构，从而使后续推断变得廉价。代数策略则灵活地关注并推理上下文中给出的新关系，但在推断时会产生额外计算。我们在传递性推断这一被广泛跨物种研究的领域中，识别出这两种策略的对立特征，并刻画了各自被观察到的条件。我们的框架预测：当关系较为熟悉时，几何策略应占主导；而代数策略则应出现，以支持在上下文中进行的全新推断。多项实验在人类、从头训练的神经网络以及大语言模型（LLM）中展示了这些对立特征。对神经网络的因果干预表明，几何策略与代数策略分别依赖于表征几何和选择性注意机制，并再现了人类中类似神经生物学扰动的影响。我们的框架将这些效应与不同现象统一起来，包括在人类和 LLM 推理中观察到的内容效应，以及在机器学习中观察到的数据分布效应。我们的发现调和了关于认知灵活性的相互竞争的观点——这些观点分别强调表征几何或代数操作——表明二者各自可以具有独特优势，并能刻画人类与神经网络行为的不同方面。
| 评论： | 同等贡献：J. Russin、J. Kim。共同资深作者：E. Pavlick、M. J. Frank。99 页（正文 17 页、参考文献 13 页、附录 69 页），5 幅图，45 幅补充图，9 张补充表。代码：此 https URL、此 https URL、此 https URL |
| 主题： | 神经元与认知（q-bio.NC）；人工智能（cs.AI）；计算与语言（cs.CL）；机器学习（cs.LG） |
| 引用为： | arXiv:2611.00387 [q-bio.NC] |
| （或 arXiv:2611.00387v1 [q-bio.NC] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.00387 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Jacob Russin [查看电子邮件]
[v1]
2026 年 10 月 30 日星期五 21:07:44 UTC（3,865 KB）
来源：arXiv cs.CL · arxiv.org