研究:言语化内部状态可监测医疗LLM操纵
热点事件持续更新
研究:言语化内部状态可监测医疗LLM操纵
1 篇报道1 个报道来源10 小时前更新
先了解这件事
AI 综述
Frederik Hauke 等作者发表研究,提出用自然语言自编码器把多模态医疗模型 Gemma-3-27B 的激活转成文本,形成一条“思维通道”,再由看不到输入的评判模型分别读取该通道和模型回答,以检测隐蔽操纵。 在两种临床攻击目标、两种输入模态和两种投递方式共八种注入条件下,思维通道发现注入的频率均显著高于回答通道(p<0.05);两者在干净输入上的误报率都接近零。作者称,模型以平实语言呈现的内部状态能暴露输出所掩盖的操纵。遗漏病理这一结果在 Llama-3.3-70B 上同样成立。
AI 根据报道生成 · 1 小时前更新
最新进展11月20日 13:00
研究:用语言化思维通道监测医疗 LLM 的隐蔽操纵报道时间线
沿着报道,了解事件的不同侧面。
11月20日
- arXiv cs.CL研究:用语言化思维通道监测医疗 LLM 的隐蔽操纵
研究提出用自然语言自编码器把多模态 LLM(Gemma-3-27B)的激活转成文本,让一个看不到输入的评判模型分别读取这一“思维通道”和模型回答。在两种临床攻击目标、两种输入模态和两种投递方式共八种注入条件下,思维通道发现注入的频率均显著高于回答通道(p<0.05),两者在干净输入上的误报率都接近零;遗漏病理这一结果在 Llama-3.3-70B 上同样成立。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。