稀疏自编码器（SAE）后门攻击：被篡改的 SAE 可操控语言模型行为

稀疏自编码器（SAE）不仅用于解释语言模型，也越来越多被用于干预其内部表征，这带来了供应链攻击面：恶意修改的 SAE 插入未改动的语言模型前向传播后，可诱导攻击者选定的行为。研究者提出一种仅改解码器的 SAE 后门，保持底层 LLM 与 SAE 编码器冻结，攻击仅限单一插入层的单个辅助组件，并以代码生成为例展示了高攻击成功率。