arXiv·· 13 天前AI 评分22
噪声进、偏见出：通过闭环激活引导对扩散语言模型实施定向偏见注入
Noise Out, Bias In: Targeted Bias Injection in Diffusion Language Models via Closed-Loop Activation Steering
AI 导读
研究提出一种针对掩码扩散语言模型（dLLM）的定向偏见注入攻击：由于 dLLM 在每次去噪步骤都会重新预测 token，攻击者可利用内部激活在答案被确定前持续观察并调整干预。相比自回归解码只在提交答案时暴露一次分布，dLLM 在每个去噪步骤都暴露分布，使闭环激活引导成为可能。
来源：arXiv · arxiv.org