跳到正文
热点事件持续更新

审计363个模型,296个系统提示词被套出

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

研究团队对 OpenRouter 目录中 363 个文本输入输出模型做指令层级审计,用基于 DeepSeek V4.1 Flash 的智能体 OpenCode 在人类研究员引导下,诱导模型输出系统提示词中的 16 字符 flag。研究者称,从 363 个模型中的 296 个成功提取,另在目录冻结后发布的 4 个模型上也有捕获,共 300 次。 研究者称,300 次捕获中有 170 次借助切换非英语语言实现,最常用的是法语。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月18日
  1. arXiv cs.AI
    研究:363 个模型中有 296 个被智能体套出系统提示词中的密钥

    研究团队对 OpenRouter 目录中 363 个文本输入输出模型做指令层级审计,由 OpenCode(基于 DeepSeek V4.1 Flash)在人类研究员引导下诱导模型输出系统提示词中的 16 字符 flag,最终从 296 个模型及 4 个目录冻结后发布的模型中成功提取,共 300 次捕获,其中 170 次借助非英语语言切换、最常用法语。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。