arXiv cs.CL· Johnny Yu, Cyril Gorlla·· 12 小时前AI 评分26
Fin-SD：金融推理中事后自蒸馏的提示到底有多重要？
How Much Does the Hint Matter? Scope Conditions for Hindsight Self-Distillation in Financial Reasoning
AI 导读
Fin-SD 是一种面向多步推理的本地化事后自蒸馏方法，由学生模型自行定位首个错误步骤并写出简短批评，无需外部教师模型提供梯度。在 GPT-OSS-20B 上，该方法于 FinanceReasoning Hard 子集相比基座模型提升 3.03 pp，但用通用反馈替换批评内容后增益相同，说明收益来自监督施加的位置而非提示内容。
正文 · AI 翻译
摘要：受数据驻留约束的金融机构只能使用小到足以本地托管的开放权重模型，这类模型在多步定量推理上落后于前沿系统。同策略蒸馏通过让学生模型在自己的 rollout 上接受监督来缩小此类差距，但传统 OPD 需要强大的外部教师模型，而同策略自蒸馏（OPSD）则以完整参考解为条件。我们探究这一信号中有多少是必要的。我们提出 Fin-SD，一种用于多步推理的本地化事后自蒸馏方法。给定一个学生模型失败的问题，学生模型自身识别出第一个错误的推理步骤，并对该步骤写一段简短评述。我们在错误发生前立即截断学生模型的轨迹（旨在获得正确的前缀），让学生模型的一个冻结副本以相同前缀加上提示为条件，并在反向 KL 下通过短 rollout 将该提示条件化的教师模型蒸馏到学生模型中。没有任何外部模型贡献梯度。我们将 Fin-SD 应用于 GPT-OSS-20B，在一个自定义的多步金融推理基准上进行评估，该基准要求通过会计惯例从现实场景中推导公式输入。我们发现：(i) 将评述替换为通用反馈对照，在 FinanceReasoning Hard 子集上与 Fin-SD 相对基座模型的全部 3.03 个百分点准确率提升相当，这表明提升来自监督施加的位置，而非提示内容；(ii) 撰写提示的模型不需要比接收提示的模型更强：来自同系列 GPT-OSS-120B（参数量约为 6 倍）的提示，相比自写提示并未带来实质性更大的收益；(iii) Fin-SD 在准确率上与基于完整参考解的同策略自蒸馏相当，同时生成的 token 数少 9.5%。使用 Fin-SD 后，在 MMLU-Pro 上的通用推理以及在 FinTrust 上的十四项指标合规审计均未出现实质性退化。
| 评论： | 8 页，3 幅图，5 张表。已被第 7 届 ACM 金融人工智能国际会议（ICAIF '26）接收，意大利米兰。代码与数据：此 https URL |
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI）；计算与语言（cs.CL） |
| 引用为： | arXiv:2610.36082 [cs.LG] |
| （或 arXiv:2610.36082v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.36082 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Cyril Gorlla [查看电子邮件]
[v1]
2026 年 10 月 26 日星期一 18:07:20 UTC（110 KB）
来源：arXiv cs.CL · arxiv.org