arXiv cs.AI· Kaixiang Wang, Junjie Li, Zhaojiacheng Zhou, Jiong Lou, Jie Li·· 1 天前AI 评分31
S1-Evo：针对类型化 System-1 决策模型的体验引导证据竞争攻击
S1-Evo: Experience-Guided Evidence Competition Attacks on Typed System-1 Decision Models
AI 导读
S1-Evo 是一种针对 LLM 智能体中类型化 System-1 决策模型的自进化攻击框架，通过契约感知的证据通道扰动不可信字段，诱发证据竞争并保持事实不变。
正文 · AI 翻译
摘要：类型化 System-1（S1）决策模型越来越多地部署在 LLM 智能体中，用于路由、审核和授权以降低推理成本，但不可信上下文仍可操纵类型化输出并改变执行分支。与自回归 System-2（S2）模型不同，S1 接口在不进行逐 token 解码的情况下对动态规则和选项进行评分，因此针对文本续写或显式覆盖命令的攻击并不适用。我们提出 S1-Evo，一个针对 S1 基于契约的选项竞争与边际反馈量身定制的自进化框架。S1-Evo 通过契约感知的证据通道扰动不可信字段，以诱导与原始任务证据的 \emph{证据竞争}，同时保持事实不变性。在种子任务上离线运行时，它通过由方向性边际引导的反馈搜索和重新验证来优化候选，并将验证过的翻转蒸馏为经验卡片。在测试时，S1-Evo 检索相关卡片，为未见任务构建扰动。在四个基准和三个 S1 模型上，S1-Evo 在 \texttt{jev-1.14} 上达到 71.99\% 的平均 ASR 和 57.47\% 的高置信度 ASR，并导致高达 24.00\% 的端到端智能体违规。
| 评论： | 无 |
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2611.16937 [cs.AI] |
| （或 arXiv:2611.16937v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.16937 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Kaixiang Wang [查看电子邮件]
[v1]
2026年11月12日星期四 15:21:44 UTC（727 KB）
来源：arXiv cs.AI · arxiv.org