免训练防御医疗多智能体提示注入

Fardin Ahsan Sakib 等作者提出一种免训练的医疗多智能体系统提示注入防御方法。研究称，针对医疗多智能体系统的提示词注入攻击在两种系统、两个模型家族和三个基准上单段注入成功率最高达 61%，智能体协作并不能稳定防御。 该防御按临床实践把患者发现与诊断、建议、指令等临床判断分离，仅依据患者发现逐条核验判断，使决策只建立在有支持的判断上。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。