跳到正文
arXiv cs.AI· Jayant Parashar, Suchendra M. Bhandarkar·· 2 天前AI 评分22

KACE:面向数学推理的知识自适应上下文工程

KACE: Knowledge-Adaptive Context Engineering for Mathematical Reasoning

AI 导读

KACE 通过按题目难度分层调用推理并只展示对应(难度层、领域)单元的知识卡片,在 MATH-HARD 上达到 77.3%,高于 Best-of-5 自洽性的 72.7%,且求解调用更少。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:上下文工程方法通过学习执行反馈中的文本并将其放入提示中来改进冻结的语言模型。当单个学习到的提示承载了所有学到的内容时,不相关的经验会与相关的经验竞争,系统只能保留适合该提示的内容。我们提出了知识自适应上下文工程(KACE),它针对每个问题决定投入多少推理以及展示哪些学到的知识。固定的分层自一致性调度(2、3,然后在一致性门控后为 5 个样本)让简单问题在有两个一致样本后退出,问题退出的层级作为其难度标签。离线时,教师引导的学习器将失败训练轨迹蒸馏为简短的带类型卡片,存储在按难度层级和领域划分的存储中,每个升级层级只读取其(层级、领域)单元的卡片。在 MATH-HARD 上,KACE 达到 77.3%,而 Best-of-5 自一致性为 72.7%,且求解器调用更少,其得分高于分层 ACE(70.0%)和分层 GEPA(72.0%)。它还在 AIME 2025 上取得最高准确率(61.1%,而 Best-of-5 为 53.3%,分层 GEPA 为 57.8%),并在 OlymMATH-EN 上达到 48.1%。组件分析表明,相比仅使用分层调度,该存储在 MATH-HARD 上增加 4.0 分,在 OlymMATH-EN 上增加 3.7 分,并且(层级、领域)读取规则在从同一存储中选择卡片方面优于所有其他规则。
评论: 28 页(8 页正文 + 附录),1 张图,18 张表
主题: 人工智能(cs.AI)
ACM 分类: I.2.7
引用为: arXiv:2606.00532 [cs.AI]
  (或此版本的 arXiv:2606.00532v2 [cs.AI])
  https://doi.org/10.48550/arXiv.2606.00532

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Jayant Parashar [查看电子邮件]
[v1] 2026 年 5 月 30 日星期六 04:51:01 UTC(127 KB)
[v2] 2026 年 10 月 15 日星期四 15:52:19 UTC(129 KB)

来源:arXiv cs.AI · arxiv.org