arXiv cs.AI· Ruimin Pei, Haibo Liu, Fang Zhang, Xunhua Guo·· 1 天前AI 评分26
FPSRG:异构用户模拟的第一人称后训练与多维语义响应网格
FPSRG: Heterogeneous User Simulation First-Person Post-Training and Multidimensional Semantic Response Grids
AI 导读
FPSRG 通过共享后训练让模型以参与者身份作答,再用自我报告与行为目标精调维度控制向量,冻结模型后测量向量系数组合的联合得分并存入可检索目录。在 Qwen 实例上,精调将五轴复合控制跨度均值从 30.75 提升至 40.45;五维 25-75 目标区域内五级向量目录覆盖 92.2% 固定目标,结合提示词目录后升至 98.7%。
正文 · AI 翻译
摘要:使用大语言模型模拟异质个体是一个活跃的研究方向,而异质用户模拟需要具有不同特征的模型。我们研究画像构建:给定维度、条目和评分规则,构建可由多维目标分数检索的模型配置。我们引入第一人称语义响应网格(FPSRG)。共享后训练首先教会模型以参与者身份进行判断和回答;随后通过自我报告和行为目标来细化维度特定的控制向量。在模型冻结的情况下,我们测量向量-系数组合的联合分数,过滤不可接受的配置,并将结果存储在可搜索的目录中。逐 token 配置路由、连续批处理和隔离缓存支持对不同画像进行并行测量。在 Huihui 全参数后训练之后,非思考模式的五维和十维 Qwen 实例以及思考模式的六维实例展示了完整工作流程。在数据、层和范数匹配的情况下,细化将五轴复合控制的平均跨度从 30.75 提高到 40.45。在五维 25-75 目标区域内,合格的五级向量目录在每轴误差至多 20、总误差至多 60 的条件下覆盖了 92.2% 的固定目标;将其与提示目录结合后,覆盖率提高到 98.7%。在固定系数范围下,三级、五级和九级目录分别达到 71.2%、92.2% 和 94.6% 的覆盖率,展示了更密集测量带来的收益。这些结果描述了在固定评估协议下测得可达区域。通过共享适配、一小组学习到的方向以及可复用的联合测量,FPSRG 无需为每个画像重新训练模型即可构建异质个体配置。
| 评论: | 17 页,5 张图 |
| 主题: | 人工智能(cs.AI) |
| 引用为: | arXiv:2611.16445 [cs.AI] |
| (或 arXiv:2611.16445v1 [cs.AI] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2611.16445 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Haibo Liu [查看电子邮件]
[v1]
2026 年 11 月 12 日星期四 07:58:50 UTC(974 KB)
来源:arXiv cs.AI · arxiv.org