跳到正文
arXiv cs.CL· Yifan Zhu, Guanting Chen, Bing Wei, Haoran Luo·· 10 小时前AI 评分38

LoopWeaver:面向受限长文本生成的分层反馈驱动优化方法

HiFlow: Hierarchical Feedback-Driven Optimization for Constrained Long-Form Text Generation

AI 导读

LoopWeaver 提出一种两阶段离线偏好优化分层工作流,用于受限长文本生成:约束感知规划生成结构化计划,可行性过滤剔除无效计划,共享确定性奖励为计划级与生成级 DPO 构建偏好对。推理时模型保持前馈,先生成并修订完整计划、过滤后再按当前子计划与叙事上下文分段生成。在四个 LongGenBench 风格结构化场景、多个开源骨干模型上,约束准确率与文本质量均有提升,代码与数据已公开。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:大型语言模型在受限长文本生成中面临多目标优化问题,需要平衡全局结构、局部连贯性和约束满足。我们提出 LoopWeaver,一种包含两个顺序离线偏好优化阶段的分层工作流。约束感知规划生成结构化计划,可行性过滤移除无效计划,共享的确定性奖励为计划级和生成级 DPO 构建偏好对。在推理时,LoopWeaver 保持前馈:它生成并修订完整计划,过滤修订后的计划,然后以当前子计划和运行中的叙事为条件生成各片段。我们在多个骨干模型上,于四个 LongGenBench 风格的结构化场景中评估了该方法。结果表明,在所有四个开源骨干模型上,约束准确性和文本质量均有提升。我们的软件和数据公开于 此 https URL。
评论: 被 NeurIPS 2026 主会议接收
主题: 计算与语言(cs.CL)
引用为: arXiv:2603.04996 [cs.CL]
  (或 arXiv:2603.04996v2 [cs.CL] 用于此版本)
  https://doi.org/10.48550/arXiv.2603.04996

由 DataCite 颁发的 arXiv DOI

期刊 参考: NeurIPS 2026

提交历史

来自:Guanting Chen [查看电子邮件]
[v1] 2026年3月5日星期四 09:41:39 UTC(3,160 KB)
[v2] 2026年11月6日星期五 14:59:04 UTC(5,319 KB)

来源:arXiv cs.CL · arxiv.org