跳到正文
热点事件持续更新

研究:言语化内部状态可监测医疗LLM操纵

1 篇报道1 个报道来源10 小时前更新

先了解这件事

AI 综述

Frederik Hauke 等作者发表研究,提出用自然语言自编码器把多模态医疗模型 Gemma-3-27B 的激活转成文本,形成一条“思维通道”,再由看不到输入的评判模型分别读取该通道和模型回答,以检测隐蔽操纵。 在两种临床攻击目标、两种输入模态和两种投递方式共八种注入条件下,思维通道发现注入的频率均显著高于回答通道(p<0.05);两者在干净输入上的误报率都接近零。作者称,模型以平实语言呈现的内部状态能暴露输出所掩盖的操纵。遗漏病理这一结果在 Llama-3.3-70B 上同样成立。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月20日
  1. arXiv cs.CL
    研究:用语言化思维通道监测医疗 LLM 的隐蔽操纵

    研究提出用自然语言自编码器把多模态 LLM(Gemma-3-27B)的激活转成文本,让一个看不到输入的评判模型分别读取这一“思维通道”和模型回答。在两种临床攻击目标、两种输入模态和两种投递方式共八种注入条件下,思维通道发现注入的频率均显著高于回答通道(p<0.05),两者在干净输入上的误报率都接近零;遗漏病理这一结果在 Llama-3.3-70B 上同样成立。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。