arXiv cs.AI· Yuan An, Emily Wang, Benjamin Wang, Ruhma Hashmi·· 6 天前AI 评分23
从掌握度画像到模拟作答:用于忠实 LLM 学生模拟的随机学生知识图谱(SSKG)
From Mastery Profile to Simulated Response: Stochastic Student Knowledge Graphs (SSKG) for Faithful LLM Student Simulation
AI 导读
针对 LLM 模拟学生时总是以自身全部能力作答的问题,研究者提出基于随机学生知识图谱(SSKG)的方法:用 LLM 从课程材料抽取课程知识图谱(CKG),将解题路径分解为 CKG 三元组并映射错误干扰项,再以掌握度概率采样决定作答结果。
正文 · AI 翻译
摘要:大语言模型(LLM)越来越多地被用于模拟不同掌握水平的学生,以生成合成训练数据并对辅导系统进行压力测试。现有方法主要利用 LLM 回答问题或执行测试,同时指示其模拟各种技能水平。然而,LLM 往往无论目标技能水平如何,都以其完整的内置能力执行。我们在五个掌握水平的 SAT 题目上展示了这一局限,其中三个 LLM 始终达到 96.8-100\% 的准确率。为了忠实模拟学生行为,我们提出了一种基于随机学生知识图谱(SSKG)的方法,以不同方式利用 LLM 的优势。使用人在回路的工作流,LLM 从课程材料中提取课程知识图谱(CKG),将解题路径分解为 CKG 三元组,并映射错误干扰项。学生的掌握画像表示为 SSKG,为 CKG 三元组分配掌握概率。在解决问题时,对 SSKG 进行采样以确定结果,之后由 LLM 生成与采样结果一致的推理依据。与七个无法区分画像且保持 86.5-100\% 准确率的基线相比,我们基于 SSKG 的方法从低掌握度到高掌握度画像达到 44.1-85.2\% 的准确率,形成了清晰的单调梯度。消融研究表明,分类学意识对这些保真度提升的贡献最为显著,尤其是对较低掌握度的画像。
| 主题: | 人工智能(cs.AI);人机交互(cs.HC) |
| 引用为: | arXiv:2608.21668 [cs.AI] |
| (或此版本的 arXiv:2608.21668v2 [cs.AI]) | |
| https://doi.org/10.48550/arXiv.2608.21668 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Yuan An [查看电子邮件]
[v1]
2026年8月21日星期五 22:19:12 UTC(205 KB)
[v2]
2026年10月8日星期四 23:44:22 UTC(184 KB)
来源:arXiv cs.AI · arxiv.org