arXiv cs.MA· Aiden Rubey, Zachary Coalson, Cong Chen, Jean-Philippe Monteuuis, Jonathan Petit, Sanghyun Hong·· 6 天前AI 评分33
硬件故障在 LLM 智能体中如何呈现不同表现？
How Do Hardware Faults Manifest Differently in LLM Agents?
AI 导读
首个针对 LLM 智能体硬件故障韧性的系统性研究，基于三个智能体 benchmark、6,814 次执行（2,400+ 次无故障运行与 4,300+ 次注入随机双比特权重故障的运行）追踪故障传播路径。研究发现智能体执行会把模型级损坏转化为系统级结果：智能体可从故障输出中恢复并正确完成任务，但计算与执行成本上升；少数故障会引发语义上微妙但有意义的错误，且在某些模型和场景下会改变安全与对齐行为。
正文 · AI 翻译
摘要：我们首次系统性地研究了大语言模型（LLM）智能体对随机硬件诱发故障的韧性。此前关于 LLM 硬件故障韧性的工作聚焦于模型层面的结果，例如输出错误或生成失败。然而 LLM 智能体会反复与工具和环境交互，形成可能改变硬件故障表现方式的循环。我们在三个智能体基准上进行了广泛评估，涵盖 6,814 次智能体执行：2,400+ 次无故障运行和 4,300+ 次注入故障运行，故障为独立采样的随机两位权重故障。我们追踪了这些故障如何在智能体执行过程中传播。与先前研究不同，我们发现智能体式执行将模型层面的损坏转化为不同的系统层面结果：（1）智能体可以从有故障的模型输出中恢复，并仍正确完成任务；（2）这种恢复会增加计算和执行成本；（3）少数故障会导致细微但语义上有意义的错误，而智能体在其他方面表现正常；（4）对于某些模型和场景，故障可能改变安全和对齐行为。
| 评论： | 被 NeurIPS 2026 MLforSystems 和 AI4Good Workshops 接收；前两位作者贡献相同 |
| 主题： | 多智能体系统（cs.MA） |
| 引用为： | arXiv:2610.12756 [cs.MA] |
| （或 arXiv:2610.12756v1 [cs.MA] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.12756 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Sanghyun Hong [查看电子邮件]
[v1]
2026年10月8日星期四 22:08:08 UTC（198 KB）
来源：arXiv cs.MA · arxiv.org