arXiv·· 12 天前AI 评分31
利用暗知识中的模型无关潜在安全信号守护 LLM
Safeguarding LLMs via Model-Agnostic Latent Safety Signals from Dark Knowledge
AI 导读
研究提出从暗知识中提取模型无关的潜在安全信号，用于 LLM 解码阶段的安全防护。现有解码阶段防御存在安全与过度拒答的权衡，且依赖内部隐藏状态、受限于特定架构并带来较大开销。
来源：arXiv · arxiv.org
利用暗知识中的模型无关潜在安全信号守护 LLM