arXiv cs.AI· Bingchen Wang, Zi-Yu Khoo, Jingtan Wang·· 13 小时前AI 评分32
P2P:用紧凑 LLM 集成模拟人类偏好,实现人口级调查对齐
Prompts to Proxies: Emulating Human Preferences via a Compact LLM Ensemble
AI 导读
研究者提出 Prompts to Proxies(P2P),一个两阶段推理时系统,通过结构化属性提示构建代理池并用 L1 正则化回归筛选紧凑加权集成,从有限公开调查数据重建目标人群的聚合问卷回答。
正文 · AI 翻译
摘要:大型语言模型正越来越多地被用作社会科学研究中人类受试者的代理,但外部效度要求其响应分布与目标人群相匹配。我们研究群体层面的调查对齐:在缺乏个体层面人口统计画像或模型微调的情况下,从有限的公开调查数据中重建聚合调查响应。我们将此问题形式化为偏好重建:不是将代理智能体与人口统计画像匹配,而是构建代理智能体的函数基,并通过加权聚合恢复群体偏好。我们通过 Prompts to Proxies($\texttt{P2P}$)实例化这一思想,这是一个两阶段的推理时系统。第一阶段使用基于结构化属性的提示与熵引导的自适应采样,构建覆盖潜在偏好空间的多样化代理池。第二阶段采用 L1 正则化回归,选择一个紧凑的加权集成以匹配观测到的目标人群响应。在 14 个 American Trends Panel 波次上,$\texttt{P2P}$ 在每次调查约 0.8 美元的成本下实现了 0.014 的平均测试 MSE,优于提示和人口统计条件化基线。在世界价值观调查上,跨地区迁移实验表明,基的表达能力平均而言可以优于地区匹配,而地区特定生成在文化差异较大的问题上有所帮助。针对一个 SFT 对齐调查模型的压力测试显示,使用不到 3\% 的训练数据即可获得有竞争力的性能。这些结果将偏好重建定位为一种轻量、可外部验证的基于调查的群体对齐替代方案。代码可在 此 https URL 获取。
| 评论: | 已被 NeurIPS 2026 接收发表 |
| 主题: | 人工智能(cs.AI);计算机与社会(cs.CY) |
| 引用为: | arXiv:2509.11311 [cs.AI] |
| (或 arXiv:2509.11311v3 [cs.AI] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2509.11311 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Bingchen Wang [查看电子邮件]
[v1]
2025 年 9 月 14 日周日 15:08:45 UTC(16,061 KB)
[v2]
2026 年 1 月 28 日周三 19:39:31 UTC(14,132 KB)
[v3]
2026 年 10 月 27 日周二 19:11:00 UTC(14,485 KB)
来源:arXiv cs.AI · arxiv.org