arXiv cs.AI· Durga Prasad Maram, Dhruvin Gandhi, Zonghai Yao, Gayathri Akkinapalli, Franck Dernoncourt, Yu Wang, Ryan A. Rossi, Nesreen K. Ahmed·· 3 天前AI 评分24
PerFine:提升 LLM 个性化的迭代式批评-精炼框架
Iterative Critique-Refine Framework for Enhancing LLM Personalization
AI 导读
研究提出免训练、模型无关的批评-精炼框架 PerFine,通过 LLM 生成器与批评 LLM 基于同一用户画像迭代反馈,并用 knockout 策略保留更优草稿。
正文 · AI 翻译
摘要:个性化文本生成不仅要求模型生成连贯的文本,还要求其与目标用户的风格、语气和主题焦点保持一致。现有的检索增强方法(如 LaMP 和 PGraphRAG)通过用户和邻居历史来丰富用户画像,但它们止步于生成阶段,且往往产生在语气、主题或风格上发生偏移的输出。我们提出 PerFine,一个统一的、无需训练的批判-精炼框架,通过迭代的、基于画像的反馈来增强个性化。在每次迭代中,一个 LLM 生成器基于检索到的画像生成草稿,而一个同样基于相同画像的批判 LLM 则就语气、词汇、句子结构和主题性提供结构化反馈。随后生成器进行修订,同时一种新颖的淘汰策略在迭代中保留更强的草稿。我们进一步研究了其他推理时策略,如 Best-of-N 和主题提取,以平衡质量与效率。在 Yelp、Goodreads 和 Amazon 数据集上,PerFine 在个性化方面持续优于 PGraphRAG,G-Eval 提升 +8.5-12%,在 3-5 次精炼迭代中稳步提升,并随批判模型规模增大而具备可扩展性。这些结果表明,事后的、感知画像的反馈为个性化 LLM 生成提供了一种强大的范式,且无需训练、与模型无关。
| 评论: | 已被 AACL 2026(主会议)接收 |
| 主题: | 计算与语言(cs.CL);人工智能(cs.AI);信息检索(cs.IR) |
| 引用为: | arXiv:2510.24469 [cs.CL] |
| (或 arXiv:2510.24469v2 [cs.CL] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2510.24469 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Zonghai Yao [查看电子邮件]
[v1]
2025年10月28日星期二 14:36:22 UTC(880 KB)
[v2]
2026年10月11日星期日 20:21:26 UTC(321 KB)
来源:arXiv cs.AI · arxiv.org