跳到正文
arXiv cs.AI· Zexuan Fei, Zhengnan Guo, Yiming Luo, Kaiyi Huang, Aimin Zhou, Bo Jiang, Fei Tan·· 4 小时前AI 评分34

EGS:面向教育 LLM 的互补安全框架

EGS: A Complementary Safety Framework for Educational LLMs

AI 导读

研究者提出教育护栏系统 EGS,一个轻量、与模型无关的运行时框架,通过查询审核、场景感知教学引导和回复审核,补充模型内在对齐。EGS 按风险等级分流输入,对灰色地带查询施以分类教学干预,并在输出前审计。在通用与教育专项基准上,EGS 提升了多种 LLM 的审核表现、拒答质量与越狱鲁棒性,代码与模型权重将公开。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:大语言模型(LLM)在个性化教育方面具有强大潜力,但面向青少年的部署会带来有毒、有偏见、误导性或不符合其发展阶段的内容风险。我们认为,教育安全应超越二元拒绝:学生的提问往往模糊或出于好奇心驱动,需要结合情境的引导而非简单阻断。我们提出教育护栏系统(EGS),这是一个轻量级、与模型无关的运行时框架,通过查询审核、场景感知的教学引导和回复审核来补充内在对齐。EGS 按风险等级对输入进行分级,对灰色地带查询以类别特定的教育干预进行重定向,并在交付前审核输出。在通用及教育专用基准上的实验表明,EGS 在多种 LLM 上提升了审核性能、拒绝质量和越狱鲁棒性。这些发现表明,纵深防御式护栏可以增强安全性,同时保留教育类 LLM 所需的教学效用。我们的代码和模型权重将公开提供,以支持社区采用。
评论: 20 页,8 幅图,8 张表
主题: 计算与语言(cs.CL);人工智能(cs.AI)
引用为: arXiv:2611.22203 [cs.CL]
  (或 arXiv:2611.22203v1 [cs.CL] 为本版本)
  https://doi.org/10.48550/arXiv.2611.22203

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Zexuan Fei [查看邮箱]
[v1] 2026 年 11 月 17 日星期二 04:40:42 UTC(3,497 KB)

来源:arXiv cs.AI · arxiv.org