解耦逻辑与人格：边缘 LLM 智能体对上下文污染的结构免疫

查看 PDF HTML（实验性）

摘要：边缘设备上的小型语言模型智能体必须同时保持人设并正确推理，而这一切都发生在一个会被对话历史和人格指令填满的上下文窗口内。我们研究了当历史很长、具有误导性且充满人格信息（人格-逻辑干扰）时，此类智能体的逻辑部分会发生什么，并提出了一种解耦架构（AO-DA），将逻辑推理（“What”）与人格表达（“How”）分离为同一 INT4 基础模型上的两条推理路径，并配备可热插拔的 LoRA 适配器。逻辑路径仅接收核心轮次，并输出可验证的结构化状态（Micro-State）；人格路径则结合完整历史以角色风格呈现该状态。在 Apple M2 笔记本电脑上进行的同基础模型消融实验（Llama-3.1-8B-Instruct 和 Gemma-3-4B-it，4 位；480 次运行，覆盖 4 个污染水平 x 3 个实验组 x 2 个任务 x 2 个人格 x 5 个随机种子）中，我们发现：(i) 解耦后的逻辑路径在结构上对污染保持不变：其提示词始终为 180（Llama）或 167（Gemma）个 token，而混合单次提示词从 242 增长到 1,203，且其输出在各污染水平下逐字节相同（40/40）；(ii) 混合单次处理单调退化（Llama 上综合逻辑得分从 0.669 降至 0.150，Gemma 上从 0.487 降至 0.150），主要原因是未能输出所需的结构化输出（Llama 上 80-95% 的运行失败，Gemma 在两个最高污染水平上 100% 失败）；(iii) 当相同的污染输入解耦后的逻辑路径时，在 8B 模型上，专用适配器、专用格式的路径仍比单次处理更稳健（失败率 0-20% 对 80-95%；配对 $\Delta$ +0.30 至 +0.50，Cliff's $\delta$ 0.50-0.85，Holm 校正后 $p \le 0.03$），但在 4B 模型上并非如此，两者均崩溃。分离的代价是在某个话题的首轮多一次解码（Llama 上 28.2 秒对 18.2 秒），并换来 1.7 毫秒内的人格热插拔，而无需重新运行逻辑路径。代码、评分标准、测试夹具、适配器和日志均已发布。

评论：	28 页，3 幅图。实验代码、评分标准、污染测试夹具、适配器和运行日志均已发布（见附录 G）
主题：	计算与语言（cs.CL）；人工智能（cs.AI）
引用为：	arXiv:2610.09772 [cs.CL]
	（或 arXiv:2610.09772v1 [cs.CL] 用于此版本）
	https://doi.org/10.48550/arXiv.2610.09772 arXiv 通过 DataCite 颁发的 DOI（待注册）

提交历史

来自：Masa Nakatsu [查看电子邮件]
[v1] 2026 年 10 月 7 日星期三 09:53:28 UTC（82 KB）