arXiv cs.AI· Biswa Sengupta·· 11 小时前AI 评分27
Depth or Description?一步潜在评分何时能替代前瞻搜索
Depth or Description? When a One-Step Latent Score Replaces Lookahead in Proactive Information Acquisition
AI 导读
研究发现,主动信息获取中对隐藏原因的描述方式决定了一步评分能否替代精确前瞻:基于标签的一步评分可能对答案间的交互视而不见,而基于合适潜在原因的评分在潜在变量编码决策时可替代大部分搜索深度,仅需一小部分搜索成本。从一个语言模型答案中学到的概率无法迁移到另一个模型,除非规划同时考虑两者;从 token 读取的概率仅值几个标签。
正文 · AI 翻译
摘要:主动型智能体必须在行动之前决定要问什么。精确前瞻会评估问题的各种组合,但代价高昂且依赖拟合模型;单步评分成本低,却可能遗漏这些组合。我们的主要发现是:对深度的需求往往取决于隐藏原因是如何被描述的。基于标签的单步评分可能对答案之间的交互视而不见。基于合适潜在原因进行评分则不会,而当该潜在变量编码了决策时,它就能以一小部分搜索代价替代大部分深度。换一种描述方式,同一个问题可能让该评分失效,而精确值却不会变化,因此应保持潜在变量较小,并用精确值对其进行校验。从一个语言模型的答案中学到的概率不会迁移到另一个模型,除非规划时同时考虑两者;从 token 中读取的概率仅相当于少量标签。
| 主题: | 机器学习(cs.LG);人工智能(cs.AI) |
| 引用为: | arXiv:2611.07155 [cs.LG] |
| (或 arXiv:2611.07155v1 [cs.LG] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2611.07155 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Biswa Sengupta [查看邮箱]
[v1]
2026年11月4日星期三 21:27:35 UTC(327 KB)
来源:arXiv cs.AI · arxiv.org