arXiv cs.CL· Zanwu Liu, Dan Zhang, Xiaodi Wang, Yongbo Mao, Xiaoyang Guo, Yonglin Wu, Peiyue Jiang, Yangyang Wei, Zecheng Lin·· 2 天前AI 评分22
MASP:面向主动对话的心理化对抗自博弈框架
Stop Training Against Soft Users: Mentalized Adversarial Self-Play for Proactive Dialogue
AI 导读
MASP 是一个心理化对抗自博弈框架,将主动对话建模为系统与理性抵抗用户之间的部分可观测博弈,用 BDI 潜在状态表示用户演化心理,并分离奖励侧教师心理化与策略侧学生心理化,交替更新系统与用户策略。
正文 · AI 翻译
摘要:主动式对话智能体必须引导多轮交互朝着任务目标推进,同时适应意图和态度不断变化的用户。现有规划器通过搜索、学习策略或用户感知规划来改进系统侧的动作选择,但往往针对固定或过度顺从的模拟器进行训练和评估;因此,较高的模拟成功率可能反映的是软性用户偏差,而非稳健的对话能力。我们提出 MASP,一种心智化对抗自博弈框架,将主动式对话视为系统与理性抵抗用户之间的部分可观测博弈。MASP 用基于 BDI 的潜在状态表示用户不断演变的心智状态,将奖励侧的教师心智化与策略侧的学生心智化分离,并交替进行系统策略和用户策略的自博弈更新。这将针对理性抵抗的稳健性转变为训练目标,而不仅仅是评估条件。在多种主动式对话基准上,与广泛使用的 SFT 和仅规划器方法相比,MASP 大幅提高了成功率(SR)和理性约束成功率(RCSR),减少了平均轮数(AT),并且在面对使任务目标更难实现的困难用户时表现更好。
| 评论: | 已被 EMNLP 2026(主会议)接收。含参考文献和附录共 18 页;1 幅图 |
| 主题: | 计算与语言(cs.CL) |
| 引用为: | arXiv:2610.21156 [cs.CL] |
| (或 arXiv:2610.21156v1 [cs.CL] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.21156 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Zanwu Liu [查看邮箱]
[v1]
2026年10月15日星期四 03:15:40 UTC(241 KB)
来源:arXiv cs.CL · arxiv.org