arXiv cs.AI· Tianyi Huang, Eric Liu, Jay Chong, Emily Yin, Wanqi Zhao·· 6 天前AI 评分27
LQET：让语言模型按证据来源而非报告数量更新信念
Provenance-Aware Belief Updating in Human-AI Feedback Loops
AI 导读
针对人机反复交互中同一观察被多次转述、重复被误当作独立佐证的问题，研究者提出关系型训练目标 LQET，将稀疏贝叶斯监督与约束结合，使模型依据报告来源而非报告数量更新信念。
正文 · AI 翻译
摘要：在重复的人机交互中，单次观察可以被引用、总结，并作为多份报告返回给模型，使重复看起来像是独立的佐证。我们研究语言模型能否利用所提供的报告谱系，根据证据来源而非报告数量进行更新。我们提出潜在商证据训练（LQET），这是一种关系型目标，将稀疏贝叶斯监督与约束相结合，鼓励在报告未添加新证据时保持稳定预测，并在不同传递历史中对同一新证据进行一致更新。在一个受控的二分类基准上，相对于仅任务训练，LQET 在 Qwen3-4B 和 Phi-4-mini 上将新证据更新 RMSE 降低了 41-44%，并将八次传递步骤后的对数几率漂移降低了 89-91%，每个主干网络使用三个配对训练种子。这些增益还扩展到一种闭环模拟，其中模型置信度控制着后续轮次中有多少传递报告重新进入模型的上下文。通过将信念更新建立在所提供的来源之上，LQET 为动态人机系统提供了一条路径，使影响力取决于新证据，而非同一证据返回的次数。
| 评论： | 被 NeurIPS 2026 人机耦合系统动态对齐研讨会接收为口头报告 |
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2610.13008 [cs.AI] |
| （或 arXiv:2610.13008v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.13008 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Tianyi Huang [查看邮箱]
[v1]
2026年10月9日星期五 05:09:01 UTC（1,267 KB）
来源：arXiv cs.AI · arxiv.org