NVIDIA 发布 OpenShell 参考架构,面向安全 AI 智能体
NVIDIA Launches OpenShell Reference Architecture for Safe AI Agents
NVIDIA 在 GTC Berlin 发布 OpenShell 参考架构,用于在企业基础设施和边缘系统上构建、隔离、观测和执行安全智能体。该架构由 Vera Rubin 负责模型推理、Vera CPU 运行智能体 harness、BlueField-4 DPU 运行 Sentry 做芯片级策略执行,并称 Vera Rubin NVL72 在智能体负载下每兆瓦吞吐提升 30x。
原文给出了 OpenShell 参考架构的软硬件分工与合作伙伴名单,可据此判断企业级智能体安全部署的落地形态。
该平台汇集 NVIDIA Vera Rubin、Vera CPU 和 BlueField-4,为企业基础设施提供动力,以工业规模构建、运行、观测和执行安全智能体
新闻摘要:
- NVIDIA OpenShell 参考架构为企业治理、隔离和安全提供支持,可在企业基础设施和边缘系统中构建、遏制、观测和执行安全智能体。
- 该架构以 NVIDIA OpenShell 安全运行时软件为基础,汇集了用于模型推理的 NVIDIA Vera Rubin 基础设施、用于智能体框架和工具使用的 NVIDIA Vera CPU,以及运行 NVIDIA Sentry 以实现芯片内强制执行的 NVIDIA BlueField-4 DPU。OpenShell 参考架构通过 NVIDIA RTX Spark、NVIDIA DGX Spark 和 NVIDIA DGX Station 系统延伸至边缘。
- OpenShell 参考架构可在领先的企业操作系统上运行,包括 Canonical、Red Hat、Microsoft Windows 和 Microsoft Execution Containers。
- Anthropic、AWS、Cisco、CrowdStrike、Dassault Systèmes、Dell Technologies、Google Cloud、HPE、IBM、Meta、Microsoft、OpenAI、Palo Alto Networks、Perplexity、SAP、ServiceNow、Siemens、SpaceX Super Intelligence 等公司正与 OpenShell 参考架构合作,以增强智能体部署的安全性。
GTC 柏林——NVIDIA 今日宣布推出 NVIDIA OpenShell 参考架构,该架构支持在企业基础设施和边缘系统上构建、遏制、观测和执行安全智能体。
OpenShell 参考架构以 NVIDIA OpenShell™ 安全运行时软件为基础,将其扩展为用于智能体开发和运营的全栈、工业规模基础设施。
它包括用于运行企业工作负载(包括使用 NVIDIA Nemotron™ 构建的闭源和开源模型)的 NVIDIA Vera Rubin 基础设施;用于运行智能体框架的 NVIDIA Vera CPU;开源 NVIDIA OpenShell 软件;以及用于运行 NVIDIA Sentry 统一安全软件框架的 NVIDIA BlueField® DPU,该框架可对智能体行为进行持续的带外监控并实现芯片内策略强制执行。
OpenShell 参考架构可扩展至零售、医疗、制造、机器人、软件开发和电信等行业中在边缘运行的智能体,依托 NVIDIA RTX Spark™、NVIDIA DGX Spark™ 和 NVIDIA DGX Station™ 系统。
“AI 能力与安全必须同步发展,”NVIDIA 创始人兼首席执行官黄仁勋表示。“随着企业准备部署数十亿个 AI 智能体,安全与控制必须内置于计算架构之中。NVIDIA 创建 OpenShell,是为了让智能体能够在明确界定的边界内自由开展有用的工作——受到遏制、监控和管控。借助 OpenShell 参考架构,智能体可以在 Rubin 上思考、在 Vera 上行动,并在 BlueField 上接受治理。”
专为智能体打造的全栈基础设施
OpenShell 参考架构采用 NVIDIA 加速计算,并搭配用于安全智能体运营的软件。
- NVIDIA Vera Rubin以NVIDIA Vera Rubin NVL72基础设施为核心,在预训练、后训练和推理之间具有可互换性。对于代理式工作负载,NVIDIA Vera Rubin NVL72系统每兆瓦吞吐量提升30倍。
- NVIDIA Vera CPU的性能是x86处理器的2倍,能效更高,并运行NVIDIA OpenShell,后者为自主代理提供安全的运行时边界。
- NVIDIA BlueField-4 DPU通过基于NVIDIA DOCA™软件的NVIDIA Sentry持续监控代理行为。BlueField与NVIDIA Sentry共同提供芯片级安全执行——如果代理试图越出其软件边界,NVIDIA Sentry会在毫秒内将其隔离并停止。由DOCA驱动并在BlueField-4上运行的NVIDIA Sentry可将代理容量提升高达20%。
NVIDIA合作伙伴借助OpenShell构建安全的代理部署
NVIDIA正与构建基础设施、模型和软件的行业领导者合作,使各行业能够安全地在生产环境中部署代理。
OpenShell参考架构可在领先的企业操作系统和容器编排层上运行,包括由Canonical、SUSE和Red Hat提供支持的Linux和Kubernetes基础设施,以及使用Microsoft Execution Containers (MXC)的Microsoft Windows。它可以在来自Amazon Web Services、Google Cloud和Microsoft Azure的云操作系统上运行。
企业可以在OpenShell基础设施上运行来自模型构建商的代理,包括Anthropic、Cohere、Google、Meta、OpenAI、Perplexity、Reflection和SpaceX Super Intelligence。NVIDIA还与模型构建商合作伙伴就OpenShell部署开展合作,以进行高级模型研究。
网络安全领导者1Password、Check Point、CrowdStrike、Cisco、F5、Fortinet、Microsoft、Okta、Palo Alto Networks、TrendAI和Zscaler正在将OpenShell参考架构的支持集成到其代理安全解决方案中。
领先银行——包括欧洲的BBVA和Santander——正与NVIDIA合作,探索将OpenShell参考架构作为加强代理安全、安保和治理的框架。
企业软件领导者Cadence、Dassault Systèmes、IBM、SAP、Siemens和Synopsys正与OpenShell合作构建代理软件平台。Palantir和NVIDIA正与客户合作,在生产环境中部署安全代理。
SAP正在将NVIDIA OpenShell参考架构与Joule Studio运行时(SAP Business AI Platform的一部分)集成,将业务治理与安全的代理执行连接起来。
ServiceNow今日宣布ServiceNow Arc正式可用,这是一款个人长期运行的AI代理,其操作在运行时由ServiceNow Super Intelligence Control Tower治理,并由NVIDIA OpenShell强制执行。此外,ServiceNow近期宣布的AI Passport授权层将这些策略传递至NVIDIA OpenShell和NVIDIA Sentry,使企业能够在数秒内撤销AI代理跨软件和硬件的访问权限。
NVIDIA 系统制造商 Dell Technologies、Cisco、HPE、Lenovo 和 Supermicro 均在采用 OpenShell 参考架构构建基础设施的厂商之列。
NVIDIA 还与包括 CoreWeave、Crusoe、Firebird、Firmus、GMI Cloud、IREN、Lambda、Nebius、Nscale、Oracle Cloud Infrastructure 和 Vultr 在内的云服务提供商合作,部署支持 OpenShell 的基础设施。
包括 Baseten、Deepinfra、Fireworks 和 Together AI 在内的推理与后训练服务提供商正在将 OpenShell 参考架构集成到其模型开发流水线中。
可用性
NVIDIA OpenShell 参考架构现已推出。
来源:NVIDIA Newsroom · nvidianews.nvidia.com