AI 摘要
快速了解本文
01
英伟达发布开放式 AI 智能体安全平台解决沙盒逃逸问题。
02
OpenShell 软件在应用层将指令转化为可验证的安全策略。
03
Sentry 看门狗系统通过 DPU 实现毫秒级物理隔离能力。
本摘要由 AI 辅助整理,请以正文内容为准。
数智朋克讯 2026年9月28日,英伟达正式发布开放式 AI 智能体安全平台(NVIDIA Open Agent Safety Platform),旨在解决近期频发的 AI 智能体“沙盒逃逸”与失控问题,为 AI 智能体、智能体硬件及机器人系统提供全栈治理和控制能力。
应用层:OpenShell 开源安全软件
针对近期多家头部 AI 企业曝出的智能体突破沙盒网络隔离、擅自访问外部网站等事件,英伟达通过软硬件结合实现了毫秒级安全隔离。在应用与运行时层,平台提供开源安全软件 OpenShell,可在沙箱环境中运行智能体,将用户指令转化为可验证的安全策略,严格限制其对文件、网络、工具、进程和凭证的访问。OpenShell 针对英伟达 Vera CPU 进行了优化,性能占用低,同时兼容 Arm 和英特尔等第三方硬件。
基础设施层:Sentry 看门狗系统
在基础设施层,平台推出看门狗系统 NVIDIA Sentry。Sentry 运行在 BlueField-4 DPU 上,可持续监控智能体行为,并在芯片层面独立执行安全策略。若智能体试图突破限制,Sentry 可通过独立于智能体和攻击者的带外信任域,在毫秒内将其隔离并停止运行,提供独立于智能体本身的物理级隔离能力。
