arXiv cs.MA· Mattia Greiche, Reihaneh Rabbany, Maximilian Puelma Touzel·· 10 小时前AI 评分29
面向LLM社会智能体的上下文增强与选择性鲁棒性框架
A Framework for Context Enrichment and Selective Robustness in LLM Social Agents
AI 导读
研究者提出“受控上下文增强”与“选择性鲁棒性”框架，用一组提示词替换规则系统性地增强中性填充、通用社会背景、描述性决策依据和规范性决策依据四类上下文，并以“对保义提示词变化不敏感、同时对社会世界决策相关变化有方向性响应”作为验证标准。
正文 · AI 翻译
摘要：研究人员将大语言模型用作社会模拟中的智能体，通过向智能体提供观察信息和背景信息来引导其行为。然而，已有研究表明，LLM 智能体在保持语义不变的提示变体下会显著改变其行为，这为社会模拟带来了验证问题。一个合理的假设是，这种脆弱性反映了缺乏基础支撑，并可通过丰富提供给智能体的上下文来缓解。更丰富的上下文是否能提升鲁棒性仍不明确，部分原因是上下文丰富度和鲁棒性的定义很少能支持受控比较。我们通过受控上下文丰富化来满足第一个需求，即一组提示替换规则，可系统地丰富不同类型的上下文：中性填充、通用社会背景、描述性决策依据和规范性决策依据。我们通过引入选择性鲁棒性作为验证标准来满足第二个需求：对保持语义不变的提示变体不敏感，同时对社交世界中与决策相关的变化做出方向性响应。我们在一个类似囚徒困境的博弈中展示了该框架，说明如何用它来识别哪些形式的上下文丰富化能产生更理想且更鲁棒的智能体行为。我们发现，这些丰富化形式产生了不同的行为模式，且在所测试的两个模型之间有所不同。
| 评论： | 已被 SocialAgent Workshop @ NeurIPS 2026 接收。12 页，1 张图，2 张表 |
| 主题： | 多智能体系统（cs.MA）；计算与语言（cs.CL）；机器学习（cs.LG） |
| 引用为： | arXiv:2611.06914 [cs.MA] |
| （或 arXiv:2611.06914v1 [cs.MA] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.06914 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Mattia Greiche [查看邮箱]
[v1]
2026 年 11 月 4 日星期三 18:58:23 UTC（42 KB）
来源：arXiv cs.MA · arxiv.org