arXiv cs.CL· Amanda Myntti, Jenna Kanerva, Veronika Laippala, Filip Ginter·· 10 天前AI 评分22
你的提示词该做更多：检索指令对嵌入模型的影响
Your Prompt Should Do More: Effects of Retrieval Instructions in Embedding Models
AI 导读
研究发现，在非对称检索任务中，当查询侧加入干扰项时，嵌入模型可能连简单的任务指令都无法可靠遵循。作者认为这一行为源于当前嵌入模型的训练与评估设置，并证明在微调时加入查询侧干扰项能带来显著提升，且对其他任务影响极小。
正文 · AI 翻译
摘要：提示式嵌入模型近来受到越来越多的关注，尤其是在检索领域，其中详细的检索指令会作为检索提示的一部分提供。若干新数据集和研究考察了这一设定，表明当前的嵌入模型往往难以可靠地遵循此类指令。在本文中，我们研究了在非对称检索任务中指令实际如何影响检索查询表示的机制。我们表明，当评估中包含查询侧干扰项时，模型甚至可能无法遵循简单的任务指令。我们假设这一行为是由当前嵌入模型的训练设置及其评估方式所驱动的，并表明在加入查询侧干扰项的情况下进行微调会带来显著改进，而对其他任务的影响极小。
| 主题： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2610.10508 [cs.CL] |
| （或 arXiv:2610.10508v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.10508 arXiv 颁发的 DOI 经由 DataCite（待注册） |
提交历史
来自：Amanda Myntti [查看电子邮件]
[v1]
2026年10月7日星期三 17:51:46 UTC（1,729 KB）
来源：arXiv cs.CL · arxiv.org