arXiv cs.CL· Haoting Zhang, Jinghai He, Rhonda Righter, Zeyu Zheng·· 14 小时前AI 评分22
基于模拟优化的语言模型预算内提示词集扩展与精炼
Budgeted Prompt-Set Expansion and Refinement for Language Models via Simulation Optimization
AI 导读
研究提出两阶段框架，在有限评估预算下通过模拟优化扩展并精炼初始提示词集，以最大化固定语言模型在预定义任务上的得分。第一阶段将初始提示词扩展为有限候选集并用中等维度向量表示，第二阶段构建得分代理模型并顺序选择提示词进行评估，同时证明了该顺序评估过程的一致性。数值实验显示该方法优于基线提示词选择方法，在调用语言模型评估预算受限时得分提升尤为明显。
正文 · AI 翻译
摘要：提示词是用户提供的指令或描述，用于引导生成式语言模型产生符合应用需求的输出。当这些需求发生变化时，现有提示词可能需要调整和改进。评估候选提示词需要时间和计算资源。因此，我们研究如何在有限的评估预算下，通过模拟优化来扩展和精炼初始提示词集合，目标是在固定语言模型下最大化预定义的任务得分。具体而言，我们提出了一个两阶段框架。在第一阶段，我们将初始提示词集合扩展为一个有限的候选集，其中每个提示词由一个中等维度的向量表示。在随后的评估与选择阶段，我们为表示提示词的中等维度向量构建得分代理模型。我们提出使用所构建的代理模型依次选择提示词进行评估。我们证明了该框架中顺序评估程序的一致性。我们进一步引入了一个精炼程序，利用已收集的得分在初始候选集之外进行搜索。我们还进行了数值实验，以证明我们的方法相较于基线提示词选择方法的优势，即获得更高的提示词得分，尤其是在调用语言模型评估提示词的预算有限时。
| 评论： | 55 页 |
| 主题： | 机器学习 (stat.ML)；人工智能 (cs.AI)；计算与语言 (cs.CL)；机器学习 (cs.LG) |
| 引用为： | arXiv:2404.08164 [stat.ML] |
| （或 arXiv:2404.08164v3 [stat.ML] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2404.08164 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Haoting Zhang [查看邮箱]
[v1]
2024 年 4 月 12 日星期五 00:03:56 UTC（8,490 KB）
[v2]
2024 年 5 月 20 日星期一 02:34:42 UTC（11,832 KB）
[v3]
2026 年 10 月 25 日星期日 03:32:40 UTC（9,004 KB）
来源：arXiv cs.CL · arxiv.org