arXiv cs.AI· Jian Zhao, Haoren Luo, Yu Wang, Yuhan Cao, Pingyue Sheng, Tianxing He·· 9 天前AI 评分29
LLM 能否重新发明基础算法？研究显示当前模型仍高度依赖记忆
Can Large Language Models Reinvent Foundational Algorithms?
AI 导读
研究用 LLM 遗忘方法抑制模型对目标算法的直接回忆，考察其能否凭剩余知识重新推导出算法。结果显示 LLM 无法恢复近一半的目标算法，仅在解码时抑制算法名称提及就会让恢复率骤降至 19–39%，表明模型过度依赖记忆。可恢复的算法多为结构或核心思想较简单的，作者还引入生成式验证器以维持推理强度、避免“思维崩溃”。
正文 · AI 翻译
摘要：LLM 已展现出推动科学发现的强大潜力。然而，它们是否具备基础性创新的能力，仍是一个未解的问题。在本工作中，我们聚焦于基础性创新的一个前提：\textit{LLM 能否重新发明计算机科学中的基础算法？} 我们使用 LLM 遗忘方法来抑制对目标算法的直接回忆，并让模型利用剩余知识进行推理以恢复该算法。尽管遗忘并不能保证完全移除知识，但 LLM 仍无法恢复近一半的目标算法。值得注意的是，即使只是在解码时抑制算法名称的出现而不进行遗忘，模型的恢复率也会急剧下降（19--39\%），这表明它们过度依赖记忆中的知识。我们观察到，可恢复的算法往往在结构或核心思想上较为简单，而其他算法则不那么直接。我们还引入了一种生成式验证器，以维持模型的推理强度，帮助避免“思维崩溃”现象。综合来看，通过将遗忘模型的恢复率视为近似上界，我们的实证结果表明，当前的 LLM 系统在进行基础性算法创新方面的能力仍然有限。我们的代码可在 此 https URL 获取。
| 学科： | 人工智能（cs.AI） |
| 引用为： | arXiv:2604.05716 [cs.AI] |
| （或使用 arXiv:2604.05716v2 [cs.AI] 查看此版本） | |
| https://doi.org/10.48550/arXiv.2604.05716 arXiv 颁发的 DOI，通过 DataCite |
提交历史
来自：Jian Zhao [查看邮箱]
[v1]
2026年4月7日星期二 11:15:22 UTC（7,589 KB）
[v2]
2026年10月8日星期四 02:29:15 UTC（426 KB）
来源：arXiv cs.AI · arxiv.org