arXiv cs.AI· Ziyang Chen, Junlong Jia, Xing Wu, Tinghao Yu, Songlin Hu·· 11 小时前AI 评分35
LongForge：用证据-断言推理图度量并改进长上下文指令数据
LongForge: Measuring and Improving Long-Context Instruction Data via Evidence-Assertion Reasoning Graphs
AI 导读
LongForge 将长上下文指令数据质量形式化为文档、问题与答案之间的对齐结构，其分析器把样本逆向重建为证据-断言推理图，从广度、深度、正确性、完整性四个维度度量，使每条读数可追溯到具体证据片段与推理步骤。
正文 · AI 翻译
摘要：现有的长上下文指令微调数据质量控制是生成流程中的一次性判断，只留下一个标量，既无法揭示答案使用了文档的哪些部分，也无法揭示它写下了多少推理步骤；因此这些数据既无法审计也无法控制。我们将数据质量形式化为文档、问题和答案之间对齐结构的一种属性，并构建了 LongForge，它将测量长上下文数据的分析器与生成数据的合成器配对。分析器将每个样本反向重建为证据-断言推理图，并在其上以程序化方式计算四个维度：广度、深度、正确性和完整性。每一次读取都可追溯到具体的证据片段和推理步骤，使数据可审计。测量七个主流数据集揭示了两个此前未被量化的缺陷：广度几乎不随文档长度增长，而深度普遍偏低，二者近乎正交。随后，合成器将分析器嵌入生成过程，以正确性和完整性作为门控条件，并将广度和深度交由训练时基于测量值的混合分布决定，从而使训练分布可控。在两个骨干模型上，其两种混合配置 LongForge-1 和 LongForge-N 在六个长上下文基准上平均比最强基线高出 2.2-4.7 分；在固定门控和候选池的受控对比中，仅提升广度和深度就额外带来 1.16 分，这表明训练数据的结构分布是影响下游质量的一个杠杆，而不仅仅是对它的描述。
| 评论： | 进行中的工作 |
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2610.23167 [cs.AI] |
| （或 arXiv:2610.23167v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.23167 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Wu Xing [查看邮箱]
[v1]
2026年10月16日星期五 09:05:30 UTC（9,500 KB）
来源：arXiv cs.AI · arxiv.org