arXiv cs.CL· Bahar Radmehr, Jiaxu Zhao, Fatma Bet\"ul G\"ure\c{s}, Adish Singla, Tanja K\"aser·· 11 小时前AI 评分29
ALPS:用短期规划实现长期对齐的模拟学生框架
To Align Long, Plan Short: Simulating Diverse Profile-Aligned Students by Realizing Short-Term Plans in Long-Horizon Learning Environments
AI 导读
ALPS 是一种分层模拟学生框架,通过交替规划符合行为画像的任务片段与生成对应动作,在长周期学习环境中保持行为画像一致性。在探究式物理游戏和药房模拟中,ALPS 在数据充足与稀缺两种设定下均优于逐轮生成,稀缺监督下密度与 LLM 评审通过率相当,但覆盖率仍较低。
正文 · AI 翻译
摘要:模拟学生提供了一种可扩展的方式,可在真实学生部署之前测试学习平台和 AI 导师,并扩充稀缺数据以研究大规模学习。现有的基于 LLM 的模拟器主要针对简短、以语言为中心的交互。然而,在开放式学习环境中,学生行为源于长时程交互轨迹中的模式,其中逐轮提示可能偏离指定的行为画像。我们提出 ALPS(Align Long-term by Planning Short-term,通过短期规划对齐长期),这是一种以可观察的、环境特定的行为画像为条件的层级式模拟学生。ALPS 不是独立选择每个动作,而是在规划与画像对齐的任务片段和生成相应动作之间交替。我们在数据充足和数据稀缺两种设置下评估 ALPS,其中监督分别来自真实学生轨迹或教师 LLM。在两种设置下,我们比较了上下文学习(ICL)、监督微调(SFT)、奖励排序微调(RAFT)及其顺序组合(先 SFT 后 RAFT)。在基于探究的物理游戏和药房模拟中的实验,针对留出的真实数据评估行为密度和覆盖率,并使用与人类对齐的 LLM 评判器评估画像一致性。在两种设置下,ALPS 始终优于逐轮生成,在稀缺监督下达到可比的密度和评判通过率,尽管覆盖率仍然较低。这些结果表明,层级式规划能够在长交互时程上实现忠实、与画像对齐的模拟,即使真实学生数据有限。
| 评论: | 33 页,3 幅图,20 张表 |
| 主题: | 人工智能(cs.AI);计算与语言(cs.CL);计算机与社会(cs.CY) |
| 引用为: | arXiv:2611.02002 [cs.AI] |
| (或 arXiv:2611.02002v1 [cs.AI] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2611.02002 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Bahar Radmehr [查看电子邮件]
[v1]
2026 年 11 月 1 日星期日 15:43:45 UTC(757 KB)
来源:arXiv cs.CL · arxiv.org