arXiv cs.AI· Md Asiful Islam, Fahmida Alam, Mihai Surdeanu·· 9 天前AI 评分22
ARBITER：面向 LLM 护栏的双假设推理框架
A Dual-Hypothesis Reasoning Framework for LLM Guardrails
AI 导读
研究者提出 LLM 护栏框架 ARBITER，采用双假设推理，在做出安全判定前同时考虑提示词的安全与不安全解读，并用多组件监督微调（MC-SFT）将输出拆解为逻辑组件按重要性加权。该框架以自生成推理轨迹和 LoRA 参数高效微调替代昂贵的大模型教师蒸馏与全参数微调，在三个安全审核基准上优于现有推理型与非推理型护栏基线，且跨域评测提升明显。
正文 · AI 翻译
摘要：我们提出 ARBITER，一种新颖的 LLM 护栏框架，它引入了两个关键思想：(i) 双假设推理，一种用于 LLM 护栏的推理方法，在做出安全决策之前明确考虑提示的安全和不安全解释；(ii) 多组件监督微调（MC-SFT），一种用于基于推理的护栏的结构化训练损失，它将 LLM 输出分解为逻辑组件并根据其重要性进行加权。现有的基于推理的护栏通常依赖昂贵的程序，例如使用更大或闭源的教师模型生成推理轨迹，并应用全参数微调。相比之下，ARBITER 使用成本效益高的自生成策略来生成推理轨迹，并采用基于 LoRA 的参数高效微调，同时仍比这些昂贵方法取得更好的性能。此外，ARBITER 为不安全决策提供忠实的证据短语解释，从而实现更透明和可解释的护栏方法。在三个安全审核基准上的实验表明，ARBITER 优于现有的基于推理和非推理的护栏基线，在域外评估中具有明显的增益。
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2607.17575 [cs.AI] |
| （或 arXiv:2607.17575v3 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2607.17575 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Md Asiful Islam [查看电子邮件]
[v1]
2026年7月20日星期一 05:42:25 UTC（1,688 KB）
[v2]
2026年10月5日星期一 03:32:38 UTC（1,708 KB）
[v3]
2026年10月7日星期三 17:23:11 UTC（1,708 KB）
来源：arXiv cs.AI · arxiv.org