arXiv cs.CL· Aditya Nawal, Manit Baser, Mohan Gurusamy·· 11 小时前AI 评分36
检索开始之前：LLM 智能体的安全与工具调用决策
Before Retrieval Begins: Safety and Tool-Use Decisions in LLM Agents
AI 导读
研究聚焦 LLM 智能体在调用工具前的决策环节，发现七个开放权重模型在已承认有害请求后，未加权平均危害率达 74.5%。对输入请求做因子干预后，中和"请求操作"成分带来最大准入差异（19 个百分点），从该对比估计的线性方向在七个模型中的四个影响留出集准入。
正文 · AI 翻译
摘要：大型语言模型越来越多地充当调用外部工具的智能体，然而大多数工具安全研究只考察工具调用之后发生的情况。此前关于是否调用工具的决策在很大程度上仍未得到考察，且可能影响下游安全。在七个开放权重模型中，在已承认的有害请求之后，未加权模型平均危害率为 74.5%。为确定是什么支配这一决策，我们对输入请求施加了析因干预。在我们生成的构造中，中和所请求操作成分产生了最大的承认对比（19 个百分点）。从这一对比估计出的线性方向影响了七个模型中四个的留出承认；在某些模型中对操作中和请求的影响表明，它并非操作特异性机制。随后我们检验书面拒绝是否在行为上和表征上与同一决策耦合。书面拒绝伴随 33.6% 的已承认有害调用。纯文本拒绝训练在保留良性工具使用的模型中减少了不安全承认，表明响应层面的安全训练可以迁移到调用决策。总之，这些结果确立了书面拒绝与工具承认之间部分且依赖模型的关系。它们促使对工具承认进行直接评估和监督，而不是将文本拒绝视为其代理。
| 评论： | 19 页，5 幅图。投稿至《计算语言学协会会刊》（TACL）的稿件预印本 |
| 主题： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2610.23071 [cs.CL] |
| （或 arXiv:2610.23071v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.23071 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Aditya Nawal [查看电子邮件]
[v1]
2026 年 10 月 16 日星期五 07:42:47 UTC（582 KB）
来源：arXiv cs.CL · arxiv.org