SMT黑盒框架越狱函数调用LLM

研究者Junlong Liu等人提出黑盒越狱攻击框架SMT，通过构造模拟合法审核流程的多轮轨迹，把安全拒答当作执行失败来迭代优化，从而越狱函数调用类LLM。 在五家厂商的商业LLM和两个标准化安全基准上，SMT以接近最少的查询次数取得最高平均攻击成功率和HarmScore，显著优于现有基线。 该工作据此指出，仅靠提示词层面的清洗无法防御工具调用系统，需要在schema、参数、工具输出和对话状态上做上下文感知校验。

AI 根据报道生成 · 50 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。