arXiv cs.AI· Mohammad Jalali, Azim Ospanov, Amin Gohari, Farzan Farnia·· 6 天前AI 评分22
Conditional-Vendi：面向生成式 AI 模型与 LLM 的提示词感知多样性评估
Conditional Vendi Score: Prompt-Aware Diversity Evaluation for Generative AI Models and LLMs
AI 导读
研究者提出 Conditional-Vendi 与 Conditional-RKE 两项多样性指标，基于半正定矩阵的条件熵，用于在提示词引导的生成中剥离提示词带来的变异、单独衡量模型自身的多样性。
正文 · AI 翻译
摘要：由文本提示引导的生成模型在保真度和提示对齐方面被广泛评估，但其产生多样化输出的能力仍未得到充分探索。现有的多样性度量，如 Vendi 和 RKE，基于核矩阵的 von Neumann 熵和 Rényi 熵，是为无条件模型开发的，无法区分提示引起的变异与模型引起的变异。我们通过引入 \textit{Conditional-Vendi} 和 \textit{Conditional-RKE} 来填补这一空白，这两种多样性度量源自半正定矩阵的条件熵。这些分数在提示引导的生成中分离出模型引起的多样性，其中 Conditional-RKE 具有 $O(1/\sqrt{n})$ 的收敛速率。对于 Conditional-Vendi，我们引入了一种截断谱近似，可产生可扩展且一致的估计。在文本到图像、图像描述和 LLM 任务上的实验表明，条件分数能够恢复真实的多样性排序，并且还可以引导扩散模型生成更多样化的样本。代码库可在 此 https URL 获取。
| 主题： | 机器学习 (cs.LG)；人工智能 (cs.AI)；计算机视觉与模式识别 (cs.CV)；信息论 (cs.IT) |
| MSC 分类： | 68T07 |
| 引用为： | arXiv:2411.02817 [cs.LG] |
| （或 arXiv:2411.02817v3 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2411.02817 arXiv 颁发的 DOI 通过 DataCite |
提交历史
来自：Mohammad Jalali [查看电子邮件]
[v1]
2024年11月5日星期二 05:30:39 UTC (5,111 KB)
[v2]
2026年6月9日星期二 06:28:35 UTC (9,054 KB)
[v3]
2026年10月9日星期五 09:58:18 UTC (9,054 KB)
来源：arXiv cs.AI · arxiv.org