arXiv cs.CL· Yuanchen Bei, Zhengzhang Chen, Yanjun Zhao, Haoyu Wang, Hanghang Tong, Haifeng Chen·· 11 小时前AI 评分32
PolicyMem：面向 LLM 治理的几何策略记忆
PolicyMem: Geometric Policy Memory for LLM Governance
AI 导读
PolicyMem 将自然语言策略编译为可学习的低秩子空间，作为几何策略记忆在评估、改写与验证等治理阶段复用。策略评估器把查询-回复表示投影到这些子空间，产出直接支撑安全判定与策略归因的证据；改写器依据涉及策略修订不安全回复，并由同一评估器复评。在五个常用基准上，PolicyMem 的平均不安全行为检测表现优于代表性基线，同时支持策略归因、改写与干预后评估。
正文 · AI 翻译
摘要：有效的 LLM 治理不仅限于检测不安全响应，还在于通过闭环评估、修订和验证来引导其纠正。基于学习的防护机制具有强大的语义判别能力，但往往将策略知识隐含在训练参数中，限制了其在不同阶段之间的显式复用。可编程防护栏通过提示词和工作流使策略显式化，但在将其付诸实施时严重依赖人工工程。这促使我们寻求既可学习又可在治理操作间复用的显式策略表示。为此，我们提出了 PolicyMem，一种几何策略记忆，它将自然语言策略编译为可学习的低秩子空间，以便在治理各阶段间复用。策略评估器将查询-响应表示投影到这些子空间上，产生直接用于调节安全判断和策略归因的证据。响应重写器利用所涉及的策略来修订不安全响应，并由同一评估器重新评估修订后的响应。除推理之外，同一记忆还从模型生成的候选中构建训练数据，以监督重写器，而无需调用外部教师模型。在五个广泛使用的基准上，PolicyMem 在代表性基线中取得了最佳的平均不安全行为检测性能，同时通过共享的策略记忆支持有效的策略归因、重写和干预后评估。
| 评论： | 28 页，13 张图 |
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI） |
| 引用为： | arXiv:2609.13734 [cs.CL] |
| （或 arXiv:2609.13734v2 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2609.13734 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Yuanchen Bei [查看邮箱]
[v1]
2026年9月12日星期六 06:07:43 UTC（726 KB）
[v2]
2026年11月3日星期二 20:53:39 UTC（2,061 KB）
来源：arXiv cs.CL · arxiv.org