研究提出可控用户模拟的因果推断框架

Guy Tennenholtz 等作者将可控用户模拟形式化为因果推断问题，并称在事后轨迹标签上做监督微调会使 LLM 模拟器产生结构性偏差：标签与数据生成行为策略耦合，引入前视偏差并破坏因果一致性。作者进一步证明，策略偏移下评估指标方差会几何级增长，称之为“可控性崩溃”。 为此，作者提出先验控制、逐步动态控制和直接策略条件学习三种训练缓解方法。实验显示，因果化模拟器可消除前视偏差、保留自然方差，并对未见智能体行为具备零样本泛化能力。

AI 根据报道生成 · 55 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。