跳到正文
arXiv·· 13 天前AI 评分22

纳什均衡文本:面向文本生成的博弈论解码框架

Nash Equilibrium Text: A Game-Theoretic Decoding Framework for Text Generation

AI 导读

该论文提出将文本修订建模为纳什均衡问题:token 位置为玩家、词表项为动作、每个玩家的效用为语言模型的 log 条件概率,并证明随序列长度增长,纳什均衡的似然可指数级高于自回归输出。作者进一步提出 Nash decoding 算法,在可访问联合概率的条件下,以 O(1/ε) 时间达到 ε-纳什均衡。

来源:arXiv · arxiv.org