arXiv cs.AI· Kasra Fallah, Rudramani Singha, Hannah Ghanei, Paul Sajda, James Anderson, Erfan Zabeh·· 10 小时前AI 评分31
通过闭环刺激实现 LLM 的思维控制：分布外鲁棒性
Mind Control of LLMs via Closed-Loop Stimulation: Out-of-Distribution Robustness
AI 导读
研究者将 LLM 引导建模为反馈控制问题，提出基于 $H_\infty$ 的引导控制器，让网络内部状态而非固定干预决定扰动方式，以应对动力学模型与非线性 Transformer 之间的失配。
正文 · AI 翻译
摘要：大脑与大语言模型不必被视为等价系统，也能揭示出一种可解释的共性：两者都表现出高维、非线性动力学，其行为只能被不完美地建模。每当我们试图干预其动力学时，这便构成了一个共同的挑战。控制器可以依赖在特定工作区间附近辨识出的模型，并承担系统偏离该区间时失效的风险，也可以显式地考虑不确定性和变化的内部状态。神经刺激领域数十年来一直面临类似的问题。固定开环刺激的局限性推动了闭环和状态依赖方法的出现，这些方法根据神经系统的持续状态来决定干预。受这一原理启发，我们将 LLM 引导表述为一个反馈控制问题，其中决定系统如何被扰动的是网络的内部状态，而非仅靠固定的干预。我们进一步通过鲁棒控制来处理可处理的动力学模型与其所近似的非线性 transformer 之间的失配。作为该框架的一种有原则的实现，我们开发了一种基于 $H_\infty$ 的引导控制器，它限制了对扰动和线性化失配的敏感度。在多个引导基准上，该控制器相比现有基线提升了性能，在分布外条件和不同长度复杂度下增益尤为显著。除控制器性能之外，我们引入了鲁棒可引导性 $S_{\mathrm{rob}}$，这是一种部署前对动力学失配容忍度的度量；在模型-任务对上，它表现出任务特定的结构，并随模型规模系统性变化。超越鲁棒 LLM 引导，我们的度量所追问的不仅是控制是否可能，而是它能承受多少不确定性；这一原则可能横跨人工与生物神经系统。
| 主题： | 神经元与认知（q-bio.NC）；人工智能（cs.AI）；系统与控制（eess.SY） |
| 引用为： | arXiv:2611.06418 [q-bio.NC] |
| （或 arXiv:2611.06418v1 [q-bio.NC] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.06418 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Erfan Zabeh [查看邮箱]
[v1]
2026年11月4日星期三 12:20:00 UTC（11,789 KB）
来源：arXiv cs.AI · arxiv.org