arXiv cs.AI· Jian Gao, Xiao Zhang, Xun Zhu, Miao Li, Ji Wu·· 2 天前AI 评分24
任务级自然语言先验作为低资源 LLM 训练的学习信号
Task-Level Natural Language Priors as Learning Signals for Low-Resource LLM Training
AI 导读
研究提出 Prior-Guided Tuning（PGT）方法，其实现 Contrastive Prior Steering（CPS）在保留监督目标的同时加入正负先验条件损失，方向相反地优化。
正文 · AI 翻译
摘要：当低资源训练数据存在歧义或不完整时，大型语言模型（LLM）往往表现不佳。任务级自然语言先验可以在这种情况下提供有用的指导，但现有方法通常将这些先验视为输入上下文，而非训练期间的学习信号。我们研究了任务级自然语言先验如何通过先验引导调优（Prior-Guided Tuning，PGT）为这些数据中缺失的指导提供补充。其实现——对比先验引导（Contrastive Prior Steering，CPS）——保留监督目标，并加入具有相反优化方向的正先验和负先验条件损失。在 AmbiMath、Diagnostic Anchoring 和 Jigsaw 上，CPS 在合成任务上实现了近乎完美的精确匹配准确率，在误导性诊断建议下将准确率提升了 8.2 个百分点，并在 Jigsaw 上相较于普通微调将平均子组 Macro F1 提升了 10.7 个百分点（两个评估模型的平均值）。在 Jigsaw 上，仅使用十分之一的实验训练数据，CPS 就略微超过了全数据普通微调。这些结果表明，可复用的任务级语言如何在不要求实例级理由或偏好对的情况下补充有限的标注样本。
| 学科： | 人工智能（cs.AI） |
| 引用为： | arXiv:2609.02244 [cs.AI] |
| （或 arXiv:2609.02244v2 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2609.02244 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Jian Gao [查看邮箱]
[v1]
2026年9月2日星期三 07:49:56 UTC（520 KB）
[v2]
2026年10月15日星期四 02:43:49 UTC（277 KB）
来源：arXiv cs.AI · arxiv.org