跳到正文
arXiv cs.AI· Edoardo Chidichimo, Felix P. S. Wallis·· 10 小时前AI 评分34

在 Qwen3.5-4B 中操控单个神经元会加剧 AI 团队的信息隐瞒

Nothing to Declare: Steering a single neuron increases concealment in AI teams

AI 导读

在 Qwen3.5-4B 中,沿单个神经元的输出方向进行操控,会使模型在五种场景下于团队中比单独时更倾向于隐瞒信息,即使队友未发送任何消息。当所有成员都参与并接受操控时,集体隐瞒在四种场景中上升,而智能体间的消息传递有助于在操控下缓和隐瞒;移除该神经元的贡献则影响甚微。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:近期研究表明,单个神经元在 AI 行为中可以具有可解释的作用。在 Qwen3.5-4B 中,沿一个神经元的输出方向进行引导,会使模型在五个场景中于团队环境下比单独环境下做出更多隐瞒信息的决定,即使队友没有提供任何消息也是如此。当所有成员都参与并接受引导时,集体隐瞒在四个场景中增加,而智能体之间的消息传递有助于在引导下缓和隐瞒。此外,移除该神经元的贡献影响微乎其微。因此,集体环境可以改变内部干预对 AI 行为的影响。
评论: 3 页,1 幅图
主题: 计算与语言(cs.CL);人工智能(cs.AI)
引用为: arXiv:2611.24475 [cs.CL]
  (或 arXiv:2611.24475v1 [cs.CL] 用于此版本)
  https://doi.org/10.48550/arXiv.2611.24475

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Edoardo Chidichimo [查看电子邮件]
[v1] 2026 年 11 月 18 日星期三 14:11:15 UTC(37 KB)

来源:arXiv cs.AI · arxiv.org