研究提出提示条件化SDF,让模型相信提示中的虚假事实
热点事件持续更新
研究提出提示条件化SDF,让模型相信提示中的虚假事实
1 篇报道1 个报道来源10 小时前更新
先了解这件事
AI 综述
Ananya Sutradhar 与 Fabien Roger 提出并评估“提示条件化 SDF”:用覆盖数千条事实的合成文档微调单一模型,每份文档以提示中给出的一条事实为条件,目标是让模型相信提示标签中指定的任意事实,从而不必为每组虚假信念单独微调模型。 研究者称,模型对未见事实的相信深度随训练事实数量大致呈对数线性增长。但将该方法用于小型模型的对齐审计时,初步结果为负面。
AI 根据报道生成 · 55 分钟前更新
最新进展11月20日 13:00
能否让模型相信提示词中的虚假事实?研究探索 prompt-conditioned SDF报道时间线
沿着报道,了解事件的不同侧面。
11月20日
- arXiv cs.AI能否让模型相信提示词中的虚假事实?研究探索 prompt-conditioned SDF
研究尝试用 prompt-conditioned SDF 训练单一模型,使其相信提示词标签中给出的任意事实,从而替代需为每组虚假信念单独微调模型的 SDF。模型对未见事实的相信深度随训练事实数量大致呈对数线性增长,但将该方法用于小型模型的对齐审计时初步结果为负面。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。