arXiv cs.AI· A. J. A. Jubayer Talukder, Mohammad Ariful Haque·· 13 小时前AI 评分29
一个紧凑解码器如何同时实现主动助手门控与记忆提示生成
When to Assist and What to Suggest: Joint Gating and Memory-Grounded Hint Generation in One Compact Decoder
AI 导读
研究在 28,058 个决策点上联合评估主动助手的门控与提示生成，发现单个 1B 解码器可从中间层门控并在同一遍生成中完成两项任务。其最终 checkpoint 在自动端到端指标上匹配或超过双模型流水线，实际耗时比同等 1B 流水线少 1.31-1.76x；移除记忆画像会损失 24.7 个 exact match 点，而检索和更大生成器在 exact match 上无增益。
正文 · AI 翻译
摘要：主动式助手会在对话过程中提供简短、基于记忆的提示，决定何时提供帮助以及建议什么。当前系统将这一过程拆分为一个门控和一个更大的生成器；我们在 28,058 个决策点上对两者进行联合评估。分阶段生成分数是 oracle 门控的上限：在真实门控之后，端到端精确匹配为 0.2619，而上限为 0.2971，端到端精确率为 0.2387，仍有相当大的提升空间。门控通过精确率和计算量带来收益，其节省从 8B 生成器的 4.39 倍降至 1B 生成器的 1.38 倍。记忆配置决定提示质量：移除它会损失 24.7 个精确匹配点（重新缩放的 BERTScore 从 0.57 降至 0.35），而检索和更大的生成器在精确匹配上没有增加任何收益。一个 1B 解码器可以同时完成两项任务，从中间层进行门控并在同一遍中生成。在其最终检查点上，它在自动端到端指标上匹配或超过双模型流水线，实际耗时比匹配的 1B 流水线少 1.31-1.76 倍；在三个随机种子中，其更深的出口与单独的门控持平。人工评估（32 段对话上的 1,144 次评分）支持记忆效应，并将单模型评为与匹配的 1B 流水线相当，低于 8B 模型。分级指标和 LlamaPIE 的原生评判比精确匹配更贴近人工评分，我们将其报告为严格下界。
| 评论： | 20 页，10 张图，13 张表；包含补充材料（S1-S8 节） |
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI）；人机交互（cs.HC） |
| ACM 分类： | I.2.7 |
| 引用为： | arXiv:2610.40611 [cs.CL] |
| （或 arXiv:2610.40611v1 [cs.CL] 为此版本） | |
| https://doi.org/10.48550/arXiv.2610.40611 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：A. J. A. Jubayer Talukder [查看电子邮件]
[v1]
2026 年 10 月 29 日星期四 17:54:07 UTC（565 KB）
来源：arXiv cs.AI · arxiv.org