arXiv cs.CL· Runze Jiang, Yan Wang, Boran Jin, Bingyu Zhu, Longtao Huang·· 11 小时前AI 评分26
仅定位弱点不够：面向大语言模型的状态感知递归知识改进方法 RKI
Weakness Localization Is Not Enough: State-Aware Recursive Knowledge Improvement for Large Language Models
AI 导读
研究者提出递归知识改进方法 RKI，将大语言模型的知识改进建模为状态感知的序贯干预过程，在 HotpotEval 和 SafeInternalEval 上平均超越现有知识注入方法 18.41 分。
正文 · AI 翻译
摘要：大语言模型中的知识改进正从预定义的知识整合流程转向评估引导的更新。现有方法利用评估来定位模型特有的知识弱点，并指导有针对性的后训练。然而，识别需要改进什么，并不一定能为决定如何改进提供足够的信息。同一个被定位的弱点可能与不同的操作性知识状态相容：相关知识可能不可用，可能可用但难以可靠获取，也可能可获取但对下游使用无效。我们将这种歧义称为知识状态混叠。当相容的状态倾向于不同的干预措施时，仅提高诊断分辨率不足以进行干预选择。此外，模型更新可能在观察到的弱点消失之前改变底层知识状态，使得某一轮中合适的干预措施在下一轮可能不再解决瓶颈问题。为应对这些挑战，我们提出递归知识改进（RKI），将知识改进表述为一个顺序的、状态感知的干预过程。RKI 将知识组织为图结构单元，为跨轮次的诊断评估和有针对性的干预提供共享基础。在每一轮中，RKI 定位知识弱点，根据诊断证据和干预历史估计模型的操作性知识状态，选择相应的干预措施，并在确定下一次干预之前重新评估更新后的模型。在 HotpotEval 和 SafeInternalEval 上，RKI 平均比现有知识整合方法高出 18.41 分。进一步分析表明，知识状态为干预选择提供了超出弱点定位的额外指导，并且即使观察到的弱点持续存在，知识状态也可能在模型更新过程中发生变化。
| 评论： | 18 页，8 张图 |
| 主题： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2610.36811 [cs.CL] |
| （或 arXiv:2610.36811v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.36811 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Yan Wang [查看电子邮件]
[v1]
2026 年 10 月 27 日星期二 08:12:37 UTC（3,426 KB）
来源：arXiv cs.CL · arxiv.org