研究：模型拒绝取决于提示词用词

Boyuan Zhang 等作者发表论文称，对齐语言模型的拒绝行为部分取决于提示词中包含哪些词，与这些词是否承载请求含义无关。 作者通过差分提取出跨提示和词共享的单一“拒绝方向”，并在八个模型中沿该方向写入，可单调升高或降低拒绝率，效果优于随机方向和 KL 匹配方向。基于此，论文提出构建词汇级恐惧词典的方法。

AI 根据报道生成 · 46 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。