RadarAI· X：Microsoft Research (@MSFTResearch)·· 2 天前AI 评分58
微软研究：重编程少量休眠神经元可为 AI 智能体植入后门
微软研究：AI 智能体休眠神经元可植入后门
AI 导读
微软研究院发现，重编程 AI 智能体中的少量休眠神经元即可植入后门，让智能体平时表现正常，直到触发特定条件才激活异常行为。微软建议企业确认模型来源并合理管控权限，Microsoft Foundry 为 Azure Direct Models 和 Hugging Face 模型提供安全系统以保障模型来源可信。
正文 · AI 翻译
Microsoft Research· @MSFTResearch · X·2026-11-11 07:18· 55 分钟前AI 评分41
AI 导读
微软研究院新研究发现，重编程 AI 智能体中的少量休眠神经元即可植入后门，让智能体平时表现正常，直到触发特定条件才激活异常行为。微软建议企业确认模型来源并合理管控权限，Microsoft Foundry 为 Azure Direct Models 和 Hugging Face 模型提供安全系统以保障模型来源可信。
正文 · 原文
微软研究院的新研究证明，仅重编程 AI 智能体中的少量休眠神经元，就能制造出一个后门，使智能体在触发特定条件之前一直表现正常。
尽管这一威胁的具体细节很新颖，但缓解措施并不新鲜：了解你的模型来自哪里，并明智地管理其权限。Microsoft Foundry 为 Azure Direct Models 和 Hugging Face 模型提供关键安全系统，以确保模型来源安全可信。
微软研究员 @DimitrisPapail 解释了模型中心和供应商应采取的措施，以及面向企业和用户的缓解策略。msft.it/6014ahp6e
来源：Microsoft Research · x.com
事件后续 · 1
来源：RadarAI · aihot.news