如何为策略性智能体交互选择 LLM

查看 PDF HTML（实验性）

摘要：博弈论基准测试声称，大语言模型（LLM）的战略决策能力会因博弈类型、交互结构和能力维度而异。然而，这些基准仅评估单个固定模型的战略表现。与此同时，当代 LLM 路由器在质量与成本的权衡下选择模型，却不考虑战略结构。它们没有考虑可能未知、且会随时间适应并改变反馈信号的对手。为解决这一问题，我们扩展了博弈论评估，并将战略选择定义为叠加在基础博弈之上的元博弈。在每一轮中，战略选择器从模型组合中派出一个 LLM，以应对一个潜在且在线学习的博弈收益矩阵。我们发现，评估信号具有博弈特异性，且提取可靠信号所需的种子运行次数 $N$ 远高于传统基准测试设置。在 5 种博弈和 10 个 LLM 上的评估表明，模型的战略能力因博弈设置和所面对的对手而显著不同。在此基础上，我们实现了一套选择器方法，发现依赖查询嵌入或 LLM 自我反思的方法无法一致地捕捉潜在的战略信号。一种轻量级多臂老虎机算法在多种博弈中表现更可靠，但仍不及最佳固定模型。最后，我们表明简单的非平稳和对抗性老虎机变体未能超越平稳老虎机基线，这指出现有方法在处理战略环境中不断变化的对手方面存在差距。

提交历史

来自：Arastun Mammadli [查看电子邮件]
[v1] 2026年10月13日星期二 13:21:27 UTC（569 KB）