研究揭示LLM标注中的记忆捷径与证据不足问题

Wenchang Wang、Yue Song 等研究者发表论文，提出大语言模型（LLM）标注中的“记忆捷径”现象：当文本中缺少判断所需证据时，模型会转而依赖对知名人物的先验记忆，而不是依据文本作答。 研究用 995 位公众人物及每人 4 个对照名构造反事实文本，对三个商用 LLM 各测试 121,594 条提示，并考察该行为何时出现、什么会放大它以及如何缓解。论文称，这会影响证据不足条件下 LLM 标注的有效性。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。