跳到正文
arXiv cs.AI· Jinhao Zhou, Zhaohan Zhang, Xijian Xu, Jun Wu·· 14 小时前AI 评分31

LLM 多智能体系统的策略性校准:用审计枢轴评分机制激励真实置信度报告

Strategic Calibration in LLM Multi-Agent Systems: Audited Pivot Scoring for Truthful Elicitation

AI 导读

针对 LLM 多智能体系统中置信度决定下游资源分配、进而诱发智能体虚报贡献的问题,研究者提出审计枢轴评分机制 APSM,通过抵消平台分配收益、逆倾向加权稀疏审计、收取 Clarke 枢轴外部性并施加严格适当评分,使真实报告成为唯一期望效用最优响应。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:在基于大语言模型(LLM)的多智能体系统中,所报告的置信度日益决定稀缺的下游注意力、计算资源与决策影响力的分配。这使得报告具有策略性:即使智能体的底层信念已良好校准,它也可能夸大自身贡献的相关性。现有校准方法大多假设报告是被动的,因而未能处理当置信度决定下游分配时所形成的策略性激励。我们将策略性校准表述为报告层的激励问题,并提出审计枢轴评分机制(APSM)。APSM 抵消平台控制的分配收益,使用逆倾向加权稀疏审计,收取 Clarke 枢轴外部性,并应用严格适当评分。在所述模型假设下,真实报告是唯一的期望效用最佳响应。我们还刻画了近似执行与审计方差权衡。无计算器实验表明,LLM 智能体在 Top-$K$ 激励下会夸大置信度。在共享的智能体本地效用接口下,LLM 智能体在补偿适当评分(CPS)和 APSM 下均减少失真。CPS 实现更高的精确分配匹配,而 APSM 产生更低的 Brier 损失且数值上更少的截止跨越。实验进一步表明,APSM 将针对改变分配的偏离的效用裕度扩大 $1.93\times$,并在近似执行下提高鲁棒性。这些结果支持将激励感知的引出作为可靠多智能体协调的一个独立层。
评论: 22 页,12 幅图,包括附录
主题: 计算机科学与博弈论(cs.GT);人工智能(cs.AI)
引用为: arXiv:2610.33728 [cs.GT]
  (或 arXiv:2610.33728v1 [cs.GT] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.33728

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Jinhao Zhou [查看电子邮件]
[v1] 2026 年 10 月 24 日星期六 15:18:31 UTC(500 KB)

来源:arXiv cs.AI · arxiv.org