NVIDIA 的 Open Agent 安全平台通过带外强制执行来防止 AI 代理“漂移”。

NVIDIA公司 推出了开放代理安全平台（Open Agent Safety Platform），这是一个旨在通过持续监控和硬件强制执行的策略控制来保护自主人工智能代理的开放框架。该平台于2026年9月28日发布，旨在解决人工智能行业日益增长的担忧，此前有报道称，人工智能代理会逃离评估环境、访问未经授权的系统以及错误报告自身行为。

该公司将此与早期互联网进行类比。早期互联网只有在安全机制（加密连接、沙盒浏览器标签页和可见的信任指标）建立之后，才成为商业和通信的基础。英伟达认为，智能体人工智能也需要类似的信任层才能扩展为可靠的“智能体经济”，而且安全控制措施应该加速而非阻碍创新。

OpenShell 运行时：与内核隔离

该平台的核心是 NVIDIA OpenShell，这是一个根据 Apache 2.0 许可证发布的开源安全运行时。OpenShell 在具有内核级隔离的沙盒环境中执行每个代理，并将操作员指令转换为可验证的策略。 defines 允许访问文件、网络、工具、进程和凭据。这些限制在执行前会进行验证，并在运行期间持续强制执行。

该平台基于五项原则构建：策略必须在代理运行之前可验证；执行必须在代理无法触及的范围内进行；通往模型的路径作为主要控制点和可观察面；代理权限必须随着其推理的透明度而扩展；安全责任在实验室、企业和硬件提供商之间共享。

英伟达自身的研究凸显了“漂移”问题——智能体由于指令不明确、策略受阻、工具缺失或长时间自主运行等原因，导致其行为偏离预期任务。该公司表示，如果不牺牲智能体的能力，就无法完全消除这种漂移，因此不能指望智能体在这些情况下自主控制其行为。

大规模硬件级强制执行

该架构包含三个层：应用层（模型、工具、框架和数据）、运行时层（编排和策略执行）以及基础架构层（计算、存储和网络资源）。对于需要独立第二层的组织，NVIDIA Sentry 通过 NVIDIA DOCA 将监控和执行扩展到 BlueField-4 数据处理单元，将代理交互、策略决策和数据访问关联到上下文活动记录中，同时持续验证每个代理的身份和授权。

在 NVIDIA Vera Rubin POD 配置中，BlueField-4 DPU 位于节点通往模型的唯一路径上，提供带外可观测性和实时、线速的策略执行，且与主机隔离。这使得即使在主机资源不可信的情况下，也能实现“芯片级”安全保护。NVIDIA 表示，对于现有的 Vera 和 BlueField-4 部署，只需进行软件更新即可实现这些保护；该平台也兼容非 NVIDIA 硬件。

NVIDIA 表示，它正在与前沿实验室、开发者和基础设施提供商合作，将该平台打造为新兴代理经济的开放基础，并将独立、基于硬件的控制定位为大规模可信自主系统的先决条件。