arXiv cs.CL· Zixiang Xu, Zirui Song, Chiyu Zhang, Xiuying Chen, Xi Liu, Xiyang Hu, Yue Zhao·· 9 天前AI 评分41
JevOut：自然上下文可翻转决策模型
JevOut: Natural Context Can Flip Decision Models
AI 导读
研究提出 JevOut，通过概率引导的上下文优化生成看似自然的背景或流程性文字，在 Jev 等四个决策系统、七个数据集上，将每个系统 61.4%-73.2% 的初始正确决策重定向为预设错误选项。这些上下文不改变原问题和选项，却能影响高置信度决策并跨模型迁移；250 个样本的盲评中，91.6% 被三名独立标注者多数判定为自然且不改变答案。
正文 · AI 翻译
摘要：一个看似普通的背景细节，就能把正确的模型决策变成自信的错误。我们在四个决策系统（包括 Jev）中、跨七个涵盖知识、推理和工具路由的数据集展示了这种脆弱性。在每个决策的 64 个被接受的目标评估中，我们发现了简短的上下文添加，可将每个系统最初正确决策中的 61.4%-73.2% 重定向到预先固定的错误选项。这些添加提供的是背景或程序性信息，而非明确的答案选择指令，同时保持原始问题和选项不变。我们通过概率引导的上下文优化来构造它们，该方法利用选项分布的偏移，在自然性和答案保持约束下精炼周围文本。重定向会影响最初自信的决策，常常产生高置信度的错误选择，并可在模型间迁移。在盲法人工评估中，250 个抽样成功上下文中有 91.6% 被三名独立标注者中的多数判定为自然、保持答案且不含决定性的改变答案证据。这些发现暴露了当前决策模型的一个弱点：看起来与输入完全兼容的上下文，可以重定向智能体、路由器和评估器所依赖的选择。
| 评论： | 46 页，8 幅图，30 张表。V2：通过盲法人工验证、预算匹配的独立生成基线以及可重复性分析，大幅强化了实证评估；扩展了相关工作并更新了作者列表。主页：this https URL ；代码：this https URL |
| 主题： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2609.30243 [cs.CL] |
| （或 arXiv:2609.30243v2 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2609.30243 arXiv 颁发的 DOI 通过 DataCite |
提交历史
来自：Zixiang Xu [查看电子邮件]
[v1]
2026 年 9 月 24 日星期四 17:57:07 UTC（493 KB）
[v2]
2026 年 10 月 8 日星期四 08:43:50 UTC（698 KB）
来源：arXiv cs.CL · arxiv.org