arXiv cs.AI· Yifei Liu, Zhixiang Liang, Wentao Tan, Yicheng Wang, Jiaqi Wang, Nan Duan, Qiong Cao·· 3 天前AI 评分34
用实体熟悉度筛选深度搜索蒸馏数据：SEF 让 Qwen3.8-27B 在 BrowseComp 子集从 44.10% 提升到 66.41%
Avoiding What Your Teacher Already Knows: Entity Familiarity for Deep-Search Distillation
AI 导读
针对深度搜索智能体蒸馏中"教师对某些实体过于熟悉导致监督信号偏弱"的问题，论文提出轻量门控信号 SEF，在实体入图前直接询问教师是否熟悉该实体。
正文 · AI 翻译
摘要：深度搜索智能体通常通过从更强的教师模型蒸馏工具使用轨迹来训练。然而，对于熟悉底层实体图中关键实体的教师模型而言，结构复杂的问题可能仍然相对容易，导致搜索需求较低、监督较弱。我们将这种因教师模型而异的问题难度差异称为教师相对难度，并研究实体熟悉度作为早期预测指标。我们首先提出证据验证实体熟悉度（EVF），它通过将教师模型生成的事实简报与在线证据进行验证来估计熟悉度。在多个教师模型上，EVF 与教师相对难度显著相关，AUC 为 0.60--0.70。然而，其高昂成本使其难以用于大规模构建实体图。为解决这一局限，我们提出自报告实体熟悉度（SEF），这是一种轻量级门控信号，直接询问教师模型是否熟悉某个实体，然后再决定是否将该实体纳入图中。在多个教师模型上，由 SEF 门控合成的轨迹表现出更高的观测搜索需求，并带来更高的下游学生准确率，优于未门控合成。由于熟悉度因教师模型而异，我们进一步研究跨教师复用。我们使用 Kimi-K3 的 SEF 判断来筛选为其他教师模型收集的图，并使用保留的图生成 5,411 条额外轨迹。结合来自新构建的 SEF 门控图的 2,200 条轨迹，这些数据将 Qwen3.8-27B 在 BrowseComp 子集上的准确率从 44.10% 提升至 66.41%，并在 BrowseComp、SEAL-0、HLE-text 和 xbench 上达到同等规模模型中的最先进性能。总体而言，SEF 提供了一种低成本方式，为深度搜索蒸馏合成信息量更大的监督信号。
| 学科： | 计算与语言（cs.CL）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.16251 [cs.CL] |
| （或 arXiv:2610.16251v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.16251 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Yifei Liu [查看电子邮件]
[v1]
2026年10月12日星期一 06:25:07 UTC（10,217 KB）
来源：arXiv cs.AI · arxiv.org