研究员在 AI 供应链植入 200 万个诱饵,发现严重隐私泄露
Researcher plants 2m canaries into the AI supply chain. A privacy disaster surfaced.
安全研究员 HD Moore 向 AI 服务链路投放 200 万个数字诱饵,用于追踪敏感信息是否外泄,结果发现这个生态像筛子一样泄露高度敏感数据。他把 AWS 访问密钥、SSH 密码、私有 git 仓库地址等从未使用过的凭据分别植入单条提示词并只发给一家提供商,从而在泄露发生时定位出问题环节。实验针对的是 OpenRouter、Vercel 这类把用户提示词路由到推理引擎的 AI 路由或网关服务。
研究人员在通过庞大的人工智能服务网络发送的请求中植入了200万个数字绊线,以查明委托给这些服务的敏感信息究竟遭遇了什么。他们发现的是一个像筛子一样泄露高度敏感数据的生态系统。
这一暴露是通过一项巧妙设计的实验发现的,该实验旨在测试敏感信息是否会通过广泛使用的人工智能服务所构成的庞大链条泄露,以及一旦泄露这些信息会如何被利用。如今许多人工智能应用使用像OpenRouter或Vercel这样的服务作为中介。这些“AI路由器”,有时也被称为“AI网关”,接收AI应用终端用户发送的大量提示词,并根据收费最低或最适合给定任务等标准,将其路由到可用的推理引擎。开发者不使用Anthropic、OpenAI或其他大型提供商,而是雇用AI路由器来寻找最合适的模型。
安全漏洞、提示词窃取与隐私侵犯
为了测试潜在的泄露,研究员HD Moore收集了一组Amazon Web Services访问密钥、与空AWS账户绑定的有效凭证、SSH等服务的密码,以及唯一的URL、DNS名称和私有git仓库引用。这些机密此前从未被使用过,而他控制着使用这些凭证接收任何请求的基础设施。随后,他将每个机密分别植入到仅发送给单一提供商的一条提示词中。一旦任何机密发生泄露,这些“金丝雀”——之所以得名,是因为它们类似于被带入煤矿的该鸟所扮演的角色——将让Moore能够识别出链条中应负责的每一环。
来源:Ars Technica · AI · arstechnica.com