跳到正文
arXiv cs.CL· Manuel Prada-Corral, Yahya Emara, Timothy J. O'Donnell, Ryan Cotterell, Tim Vieira·· 10 小时前AI 评分27

PoolDPP:从语言模型中进行多样化采样的 DPP 模型

A Model of Diverse Sampling from Language Models

AI 导读

研究者提出 PoolDPP,将多样化生成形式化为从行列式点过程(DPP)中采样大小为 K 的完整字符串子集,似然编码质量、嵌入几何编码相似输出间的排斥。该方法先从可处理的提议分布抽取有限候选池,对候选做重要性加权后运行 K-DPP 采样器,并提供贪心 MAP 变体。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:语言模型通常能生成高质量的单条样本,但整体样本集质量较差,重复样本会聚集在相同的语义模式周围。我们将多样化生成形式化为从行列式点过程(DPP)中采样完整字符串的一个大小为 $K$ 的子集,其中似然编码条目质量,嵌入几何编码相似输出之间的排斥。对所有字符串进行精确推断是难以处理的,因此我们提出 PoolDPP:从一个可处理的提议分布中抽取有限候选池,对候选进行重要性加权以趋向目标质量,并在诱导的池核上运行 $K$-DPP 采样器;贪心 MAP 变体提供确定性选择。我们证明了一个具有显式常数的有限样本界:采样器输出与目标 $K$-DPP 之间的 KL 散度随池大小以 O(1/N) 衰减。在实证上,PoolDPP 在开放式生成上扩展了质量—多样性前沿,在歧义文本到 SQL(Ambrosia)上扩展了精确率—召回率前沿,并且在数学推理(GSM8K)上,在约相同的 pass@$K$ 下提高了多样性。
评论: NeurIPS 2026 论文
主题: 机器学习(cs.LG);人工智能(cs.AI);计算与语言(cs.CL);形式语言与自动机理论(cs.FL);机器学习(stat.ML)
引用为: arXiv:2611.25003 [cs.LG]
  (或 arXiv:2611.25003v1 [cs.LG] 用于此版本)
  https://doi.org/10.48550/arXiv.2611.25003

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Manuel Prada-Corral [查看电子邮件]
[v1] 2026年11月18日星期三 17:56:26 UTC(237 KB)

来源:arXiv cs.CL · arxiv.org