arXiv cs.CL· Hyojung Han, Jongmin Kim, Seung-Hun Jeon·· 3 天前AI 评分15
反事实门控支撑分解（CGSD）：在训练数据过滤中分离选择与再分配
Counterfactual Gate-Support Decomposition: Separating Selection from Redistribution in Training-Data Filtering
AI 导读
研究者提出反事实门控支撑分解（CGSD），一种四臂、预算匹配的实验设计，将门控效应拆解为支撑内选择、支撑间再分配及二者交互项。在韩英与韩日检索任务上，支撑内选择是唯一超出校准零假设区间的成分（+29.7 与 +5.6 保留项，30/30 正向重复），模型置信度阈值门控也复现该模式（+27.3 项，9/9 正向）。该方法可避免将支撑再分配误读为样本级门控质量。
正文 · AI 翻译
摘要：训练数据质量门控既会改变输入空间各区域内哪些样本得以保留，也会改变训练权重在这些区域间的分布，因此门控与随机的对比无法分离这些机制。我们提出反事实门控-支撑分解（CGSD），一种四臂、预算匹配的设计，将门控资格与支撑分布交叉，并将观测到的门控效应分解为支撑内选择、支撑间再分配及其交互作用。实际约束是有限池可实现性：我们刻画了能够构造所需各臂的质量与 token 组装条件，以及普通设计未定义的一种支撑灭绝情形。在韩英和韩日检索上，支撑内选择分量的均值是唯一超过其校准零假设带的分量（+29.7 和 +5.6 个留出项；30/30 正重复），在韩英上具有决定性，在韩日上为边缘性；再分配和交互作用在现有功效下仍未分辨。同一模式在第二个无关的门控族——模型置信度阈值而非确定性验证器——上同样成立，其相对于自身零假设的判定为（+27.3 项，9/9 为正），因此该结果并非某一门控机制的特性。在数学门控上，零资格支撑使普通设计在任何预算下都未定义，而扩展设计仅在狭窄的预算带内可构造，穷举扫描能定位这些预算带，而自然工作点会错过它们——该组装条件将池的性质与打包器的局限区分开来。因此，CGSD 返回一个分解、一个可构造但功效不足的设计，或一个明确的不可构造性结果，并说明是哪一种；它防止支撑再分配被悄然解释为样本级门控质量。
| 评论： | 11 页，2 个表格，2 幅图 |
| 主题： | 机器学习（cs.LG）；计算与语言（cs.CL） |
| 引用为： | arXiv:2610.19343 [cs.LG] |
| （或 arXiv:2610.19343v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.19343 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Jong Min Kim [查看电子邮件]
[v1]
2026年10月14日星期三 00:36:40 UTC（53 KB）
来源：arXiv cs.CL · arxiv.org