研究提出JRS-Rem防御VLM越狱

同济大学等机构的研究者提出用“越狱相关偏移”（JRS）解释视觉语言模型越狱：模型在表征空间能区分良性输入与有害输入，越狱样本也形成可分离的内部状态，说明越狱并非识别失败，而是视觉模态将表征推向特定越狱状态、未能触发拒绝。 基于这一解释，研究团队提出推理时移除该偏移的防御方法JRS-Rem，称其在多个场景下提供强防御且保持良性任务性能，代码已公开。

AI 根据报道生成 · 45 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。