Prompt-agnostic Language Models：用梯度合并提升模型对提示词措辞的鲁棒性

查看 PDF HTML（实验性）

摘要：尽管大型语言模型性能强劲，但它们对提示词的表述方式仍然高度敏感。这个问题通常在推理阶段通过人工提示优化来解决，但这种方式会带来额外开销且缺乏可扩展性。相反，我们关注的是在指令微调期间将提示鲁棒性构建到模型中的训练阶段方法。一种常见策略是将每个提示的多个改写版本混合到训练中。我们证明，在可训练参数上，各改写版本的梯度会相互干扰，其中 57% 表现出符号冲突，而简单的梯度平均会丢弃约五分之一的幅度。因此，我们开发了两种梯度合并方法 Prompt-TIES 和 Prompt-DARE，它们利用模型与梯度合并中的干扰消解算子并将其应用于提示梯度，从而解决这种干扰。在本研究中，我们将我们的方法与涵盖全部三个既定类别的训练阶段鲁棒性方法（数据构建、一致性正则化和对比对齐）进行比较，以评估其提升模型鲁棒性的效果。评估在两个模型家族的四个模型、两种规模上进行。我们观察到，提示措辞与具体示例之间的交互平均占每个示例变异性的 54%，在 ANLI 和 WiC 等任务上超过 70%。梯度合并方法直接改善了这种局部鲁棒性，并在几乎不损失整体准确率的情况下，将完全微调模型上每个示例的方差几乎减半。其他训练阶段方法提升了原始性能，但未能可靠地改善每个示例的方差。代码：此 https URL。模型检查点：此 https URL。

评论：	硕士论文，波茨坦大学哈索·普拉特纳研究所，2026 年，本工作的部分内容也出现在 EMNLP 2026 论文“Prompt-Robust Language Models: Which Training Strategies Work?”（arXiv:2609.01217）中
主题：	计算与语言（cs.CL）；人工智能（cs.AI）；机器学习（cs.LG）
引用为：	arXiv:2610.37683 [cs.CL]
	（或 arXiv:2610.37683v1 [cs.CL] 用于此版本）
	https://doi.org/10.48550/arXiv.2610.37683 由 DataCite 颁发的 arXiv DOI

提交历史

来自：Frederic Sadrieh [查看电子邮件]
[v1] 2026 年 10 月 13 日星期二 11:05:32 UTC（503 KB）