跳到正文
arXiv cs.CL· Alejandro Mozo Quesada (Universidad de M\'alaga, Spain), Sergio G\'alvez Rojas (Universidad de M\'alaga, Spain), Francisco L\'opez Valverde (Universidad de M\'alaga, Spain)·· 10 小时前AI 评分31

LLM 小说角色名集中问题研究:测量名字偏移与缓解重复

Character-Name Concentration in LLM Fiction: Measuring Displacement and Mitigating Repetition

AI 导读

研究提出免微调的 speculative naming 方法,将推测解码的草稿-验证-拒绝范式从 token 迁移到角色名,通过 verbalized sampling 生成候选名字集并用 SlopTracker 打分筛选。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:大型语言模型(LLM)小说中的人名集中于少数反复出现的人名,如“Elara”和“Elias”,这是 AI 生成劣质内容(AI slop)的一个可测量表现。现有修复方法要么需要 logit 访问权限或重新训练,要么按请求逐一处理,无法控制整个语料库中的集中度。提示词层面的策略能在多大程度上降低集中度,以及以多大代价损害人名自然度,尚未得到系统测量。我们提出了一项跨八种策略的人名集中度控制实证研究,并引入推测式命名(speculative naming),这是一种无需微调的方法,它将推测解码的草稿-验证-拒绝范式从 token 迁移到人名。该方法通过言语化采样请求候选名称集,将其与结合了每模型指纹和运行时计数器的 SlopTracker 进行评分,并通过温度控制规则或其严格变体(HARD)进行选择。我们使用 20 个 LLM 从文本和视觉刺激生成四种语言的 44,782 篇故事(88,919 个命名角色),并用无列表碰撞指标(Slop Ratio,SR)测量集中度,该指标分解为已知和涌现两个分量。基于列表的策略无法消除 slop:静态禁用列表将集中度转移到涌现名称上,并使有据可查的真实人名占比减少一半以上。推测式命名则能消除它:仅采样脚手架平均将 SR 降低 89%,动态跟踪器将总降幅提升至 95%,平均碰撞概率从 7.3% 降至 0.4%,已知名称碰撞保持为零,同时自然度接近基线(按语言有 42-69% 有据可查),故事内碰撞从 4.3% 降至 0.2%。该策略排名在语言、模型家族和名称计数约定之间保持稳定。因此,人名集中度可以在语料库层面控制,无需 logit 访问权限或重新训练;命名之外的更广泛创意多样性仍有待探索。
主题: 计算与语言(cs.CL);人工智能(cs.AI)
引用为: arXiv:2611.01284 [cs.CL]
  (或 arXiv:2611.01284v1 [cs.CL] 用于此版本)
  https://doi.org/10.48550/arXiv.2611.01284

arXiv 颁发的 DOI 通过 DataCite(待注册)

提交历史

来自:Alejandro Mozo Quesada [查看电子邮件]
[v1] 2026 年 10 月 31 日星期六 21:36:29 UTC(349 KB)

来源:arXiv cs.CL · arxiv.org