从身份验证转向意图验证：AI 智能体时代的企业安全新范式

O'Reilly Radar· Vicki Reyzelman·2026-10-09 18:54· 49 分钟前AI 评分46

Intent, Not Identity

AI 导读

互联网上非人类流量与人类的比例已达 144:1，自主 AI 智能体兼具类人的操作范围和概率性推理，使传统身份验证体系失效。Web Bot Auth 等签名机制只能证明请求者身份，无法验证意图，提示词注入可劫持已验证的智能体。企业需转向执行时持续验证，包括短时凭证、加密入口验证、浏览器层意图分类和提示词注入防护。

正文

在最近一期的 This Week in AI 中，我们讨论了互联网上非人类的数量已超过人类，比例为 144:1。这是一个估算值，数量级比数字本身更重要。真正重要的是，处于这一范围内的任何比例会对安全架构产生什么影响。二十多年来，系统一直围绕两个基本假设来设计：要么验证行使自主判断的人类用户，要么验证执行硬编码可预测逻辑的账户。自主 AI 智能体打破了这一传统身份分类的两端，因为它们拥有跨越多个内部和外部应用的广泛、类人的操作范围，同时其推理本质上是非确定性和概率性的。

如今，由于智能体是通过带有标准扩展的真实浏览器代表人类进行交互，其技术指纹看起来与普通人类用户的设备完全相同。智能体调用工具、观察结果并修正。一个人浏览、移交给智能体，然后收回会话。所有活动看起来都来自同一个用户。

已签名的智能体有助于解决身份问题，而且它们正在到来。Web Bot Auth 是 RFC 9421 HTTP 消息签名之上的一层薄封装，智能体借此声明自己的身份和目的。但它们只能解决身份问题：签名证明的是谁在发出请求，而不是请求背后的意图。提示词注入和其他技术可被用来操纵一个经过验证、行为良好的智能体做出违背你利益的行为，而其操作者却毫不知情。

做对这件事的组织将智能体策略视为一个商业问题，并配以安全实现。以下问题需要回答：

我们允许哪些智能体使用我们的服务？
我们需要保护哪些端点？
智能体管理安全策略将如何影响收入？

以下是成功企业在智能体时代用于保障安全的技术。一份实施持续执行时验证的分阶段战略路线图。具体步骤如下：

建立执行时机器身份和范围化委托。用机器单点登录机制取代静态、长期有效的 API 密钥，在工具执行时颁发短时、绑定上下文的凭证。执行严格的委托策略，使自主智能体在经验证的“绿色区域”内运行，而不继承广泛的人类权限。
部署加密入口验证。升级边缘基础设施以检查 Web Bot Auth HTTP 消息签名，从而将经过加密验证的爬虫与匿名流量区分开来。
将边缘防御升级为浏览器层意图分类。将传统的网络层反机器人 Web 应用防火墙（WAF）过渡到客户端浏览器层检测平台。
强化智能体执行流水线以抵御提示注入。在所有 LLM 输入通道上部署稳健的输入净化、指令层级强制执行以及设计层面的防护措施，在外部网页内容到达执行工具之前消除间接提示注入攻击。
为智能体商务与准入采用标准化。整合新兴的信任框架，例如智能体商务信任框架（FACT）——一个面向 AI 驱动交易的中立实时信任层，同时采用 CAPTCHA 等验证协议，在委派敏感的智能体间任务之前验证智能体能力向量。

从人类主导的软件向自主 AI 智能体的快速转变，打破了传统的企业安全范式。AI 智能体以广泛的操作范围运行，但推理是非确定性的、概率性的。这正导致静态边界防御失效。能够顺利度过这一转变的团队，将是那些不再问“连接的另一端是谁？”，而是开始问“这个请求是为了什么，如果它成功了会发生什么？”的团队。

来源：O'Reilly Radar · oreilly.com