跳到正文
热点事件持续更新

研究提出提示条件化SDF,让模型相信提示中的虚假事实

1 篇报道1 个报道来源10 小时前更新

先了解这件事

AI 综述

Ananya Sutradhar 与 Fabien Roger 提出并评估“提示条件化 SDF”:用覆盖数千条事实的合成文档微调单一模型,每份文档以提示中给出的一条事实为条件,目标是让模型相信提示标签中指定的任意事实,从而不必为每组虚假信念单独微调模型。 研究者称,模型对未见事实的相信深度随训练事实数量大致呈对数线性增长。但将该方法用于小型模型的对齐审计时,初步结果为负面。

AI 根据报道生成 · 55 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月20日
  1. arXiv cs.AI
    能否让模型相信提示词中的虚假事实?研究探索 prompt-conditioned SDF

    研究尝试用 prompt-conditioned SDF 训练单一模型,使其相信提示词标签中给出的任意事实,从而替代需为每组虚假信念单独微调模型的 SDF。模型对未见事实的相信深度随训练事实数量大致呈对数线性增长,但将该方法用于小型模型的对齐审计时初步结果为负面。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。