RadarAI· X:Ethan Mollick (@emollick)·· 4 小时前AI 评分38
Ethan Mollick 与 "提示词注入" 概念提出者 Simon Willison 认为新型模型受注入攻击影响可能变小
Ethan Mollick 与提示词注入概念提出者都认为新型模型受注入攻击影响可能变小
AI 导读
Ethan Mollick 与 "提示词注入" 概念提出者 Simon Willison 均怀疑,这一攻击在新模型中可能不再是严重问题。Simon Willison 称自己开始谨慎认为当今最强模型或不受影响,Anthropic 尤其对自身防御提示词注入的能力很有信心,但更便宜、更弱的模型仍面临真实风险。Ethan Mollick 表示这与其实验吻合:如今已无法仅靠提示词注入让论文拿到更高分数。
正文 · AI 翻译
Ethan Mollick· @emollick · X·2026-10-23 21:40· 58 分钟前AI 评分54
AI 导读
Ethan Mollick 转引
正文 · 原文
“提示注入”一词的发明者怀疑(我也一样),在新模型中这可能不再是一个大问题。这与我们的测试相符,测试表明,如今你无法再简单地通过提示注入来要求在论文中获得更高分数。
@nateberkopec 我开始谨慎地怀疑,在当今最强的模型上这可能不再是个问题——尤其是 Anthropic,他们对自己避免提示注入的能力非常有信心——但对于更便宜、更弱的模型来说,这仍然是一个真实的担忧在 X 查看被引用的帖子
来源:Ethan Mollick · x.com
来源:RadarAI · aihot.news