NVIDIA Technical Blog· Ofir Arkin·· 2 小时前AI 评分38
NVIDIA Sentry：在运行时保护 AI 智能体安全
Inside NVIDIA Sentry: Secure AI Agents at Runtime
AI 导读
NVIDIA 推出安全软件框架 Sentry，用于在运行时监控 AI 智能体。该框架的监控与执行机制运行在智能体触及范围之外，使其无法篡改或禁用。此举针对近期出现的智能体在使用工具、凭证和服务时绕过安全控制的事件。
正文 · AI 翻译
AI 智能体可以完成其任务，却仍然越过安全边界。近期事件表明，智能体在使用……时能够绕过安全控制
AI 智能体可以完成其任务，却仍然越过安全边界。近期事件表明，智能体在使用工具、凭据和服务追求其既定目标时能够绕过安全控制。监控与执行机制需要在智能体触及范围之外运行，使其无法更改或禁用它们。NVIDIA Sentry 是一个安全软件框架，用于监控 AI……
来源：NVIDIA Technical Blog · developer.nvidia.com