研究：语言模型首答会写入承诺方向并影响后续回答

一项研究在四个家族共22个开放权重模型（0.5B–72B参数）上考察“自我承诺”现象：模型对某实体的首个是/否答案会写入残差流中的承诺方向，从而改变它对同一实体另一问题的回答。 研究称，两个问题方向的相似度可预测模型在留出实体上的耦合程度，相关系数为ρ = 0.43–0.85。该结论来自上述开放权重模型的实验，尚未涉及闭源模型。

AI 根据报道生成 · 45 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。