研究：低置信度监控可排序但拦不住提示注入劫持

Junwei Yao等作者发布研究，测试用语言模型自身置信度检测提示词注入劫持。在AG News主题分类的五个系统（其中三个经API提供）上，低置信度在四个系统中能把被劫持答案排在干净答案之前，AUROC为0.86至0.90。但研究者指出，排序不等于拦截，该监控能发现异常却无法阻止劫持生效。

AI 根据报道生成 · 44 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。