arXiv cs.CL· Jiaqi Gan, Tsang Ng, Ankit Raj, Tommy Duong, Xingyu Shen, Kidus Zewde, Huaiyu Guo, Simiao Ren·· 14 小时前AI 评分34
面向 AI 来电筛选智能体的小语言模型后训练回复与摘要数据
Quality-Controlled Reply and Summary Data for Post-Training Small Language Models in AI Call-Screening Agents
AI 导读
研究者构建了含 3,395 通合成通话、15,102 个目标(11,707 条回复、3,395 条摘要)的监督语料,用于小语言模型的来电筛选后训练。在 192 通留出通话上评测 6 个 0.6-4B 参数模型,共享 LoRA 适配器使回复合格率从 21-54% 升至 94-97%,摘要合格率从 0-6% 升至 43-72%。
正文 · AI 翻译
摘要:小型语言模型已经进步到这样一种程度:手机能够合理地自行筛选来电,在机主不在时代表机主接听,而无需将通话内容发送到设备之外,这是一种尊重隐私的云端通话处理替代方案。要实现这一前景,需要一个能做好两件事的模型:在通话过程中在机主授权范围内进行回复,并在通话结束后告诉机主发生了什么、哪些事项需要关注。已发布的小型模型在这两方面都无法可靠做到——它们会对普通来电者发出不必要的警报,写出的摘要会遗漏重要条件,或将来电者的说法当作事实报告——而真实通话并不提供可供学习的参考回复或摘要。我们在信息边界约束下,从合成通话中为这两项任务构建监督数据:来电者写作者依据私密场景简报工作,回复写作者只能看到截至当前轮次的对话,摘要写作者则看到完整的通话记录。对完整对话和摘要分别进行基于模型的独立评审,决定哪些通话进入训练,最终得到一个包含 3,395 通通话、15,102 个目标(11,707 个回复、3,395 个摘要)的语料库。我们在两项任务上训练一个共享的 LoRA 适配器,在 192 通留出通话上评估六个模型(0.6-4B 参数)在适配前后的表现。回复合格率从 21-54% 提升到 94-97%,摘要合格率从 0-6% 提升到 43-72%;全部十二项配对增益(六个模型 × 两项任务)的 bootstrap 区间均高于零,且摘要增益在每一个来源族中都成立。由于同一个模型既筛选了训练数据又为输出打分,这些比率衡量的是与该评估器标准的一致程度,而非人类接受度,这一点将由计划中的人类研究来检验。适配之后,连贯性和自然度方面的失败几乎消失,剩下的挑战是依据性和有用性——忠实追踪谁在什么条件下说了什么。
| 评论: | 17 页,3 幅图,12 张表 |
| 主题: | 计算与语言(cs.CL) |
| 引用为: | arXiv:2610.25458 [cs.CL] |
| (或 arXiv:2610.25458v2 [cs.CL] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.25458 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Simiao Ren [查看邮箱]
[v1]
2026年10月18日星期日 18:42:26 UTC(35 KB)
[v2]
2026年10月24日星期六 22:32:23 UTC(35 KB)
来源:arXiv cs.CL · arxiv.org