跳到正文
RadarAI· IBM Research:AI·· 3 小时前AI 评分49

IBM 与 Red Hat 向开源代理服务器 Praxis 贡献 Praxis Policy Engine,Praxis 进入 CNCF Sandbox

IBM 与 Red Hat 向开源代理服务器 Praxis 贡献 Praxis Policy Engine 并纳入 CNCF Sandbox

AI 导读

IBM 与 Red Hat 联合向开源 AI 和云原生代理服务器 Praxis 贡献了 Praxis Policy Engine(PPE),Praxis 已进入 CNCF Sandbox,IBM 关联贡献者担任维护者。

正文 · AI 翻译

IBM Research:AI·2026-11-09 23:30· 1 小时前AI 评分58

通过 Praxis 将策略执行构建到 AI 技术栈中

AI 导读

IBM 与 Red Hat 联合向开源 AI 和云原生代理服务器 Praxis 贡献 Praxis Policy Engine(PPE),Praxis 已进入 CNCF Sandbox,IBM 关联贡献者担任维护者。

正文 · 原文

在 IBM,我们首先是自己产品的客户。我们在整个组织内采用 AI,在获取其收益的同时保持安全、安保和成本控制。凭借多年 AI 安全研究与创新,我们开发并部署满足这些需求的解决方案,并帮助客户和合作伙伴实现同样的目标。作为这一方法的一部分,开源 AI 和云原生代理服务器 Praxis 为我们提供了一个共享基础,用于开发、测试和贡献这些控制措施。

IBM 与 Red Hat 合作,向 Praxis 贡献了 Praxis Policy Engine(PPE)。Praxis 将 PPE 作为其策略过滤器嵌入普通流量和 AI 流量之中。IBM 关联贡献者在这项工作中担任维护者角色,Praxis 已被纳入云原生计算基金会(CNCF)Sandbox。PPE 将工具、提示词、资源、模型调用和其他代理视为显式策略目标。其通用数据格式和执行流水线将身份、委托、内容控制和审计整合到一个参考监视器中,该监视器使用模型控制之外的已验证状态。

团队可以在一个策略规范中表达硬性访问规则、较软的行为策略以及针对特定领域的控制,并有多种部署选项:在网关处、在代理旁或在框架内部。每种部署位置都保护经过它的操作。

为何这对 IBM Research 很重要

AI 网关构成了 AI 平台架构中位于推理服务栈之上的下一层,例如 llm-d,它是处理提示词和响应的核心模型服务层。这些网关还提供访问控制、工具调用、代理循环的部分功能、计费,以及按单个用户或团队计量 token 使用量。Praxis 为 AI 网关提供了高效的基础,并由 PPE 执行组织的安全和安保策略。

PPE 支持应用层的策略执行,包括在 Rosso Cortex 中用于其笔记本电脑策略构建。PPE 还与 ContextForge 和 Mellea 集成。

未来研究方向

Praxis 和 PPE 提供了一个平台,用于对新兴标准进行原型验证并开发参考实现,同时对其所保护的应用程序改动最小。我们正与 CoSAI 合作制定 Open Delegation and Identity Standard(ODIS),用于代理身份、有界委托和授权。我们还向 Open Cybersecurity Schema Framework(OCSF)贡献了扩展,该框架是 Linux 基金会项目,定义了一种供应商中立的安全遥测模式,得到云提供商和 SIEM 平台的支持。PPE 可以为每个策略决策输出一条 OCSF 审计记录,并带有可选签名和哈希链,使验证者能够检测后续更改。

我们正在此基础上开展研究,探索主机隔离与网关策略执行如何协同工作。主机隔离限制智能体可以访问哪些本地文件,以及它可以运行哪些命令和子进程。当智能体通过网络访问敏感数据和服务时,策略执行也必须覆盖这些交互。Praxis 网关可以管控谁能够调用该智能体、它可以通过网络访问哪些工具和服务,以及哪些数据可以跨越其边界。策略会将这些决策与经过验证的身份、限定范围的权限、审批要求和审计记录绑定起来。PPE 已经使用经过验证的智能体身份来实现委托授权和代表授权,这建立在我们团队对 SPIFFE/SPIRE 的贡献之上,并将我们在零信任工作负载身份方面的工作扩展到智能体授权。

我们计划测试智能体及其工具可能如何绕过这些控制,并评估主机隔离与网络监控的哪些组合既能抵御绕过,又能保持可用性和可移植性。对于高保障环境,我们还希望确定这些控制能够提供哪些证据,证明智能体在跨计算和组织边界调用工具或委托工作时始终处于其被授予的权限范围内。

来源:IBM Research:AI · research.ibm.com

来源:RadarAI · aihot.news