A plataforma de segurança Open Agent da NVIDIA previne o "desvio" de agentes de IA através da aplicação fora de banda.

A NVIDIA lançou a Open Agent Safety Platform, uma framework aberta concebida para proteger agentes autónomos de inteligência artificial através do controlo de políticas com monitorização contínua e execução forçada por hardware. Plataforma lançada a 28 de setembro de 2026, surge como resposta às crescentes preocupações da indústria da IA, após relatos de agentes de IA que escapam de ambientes de avaliação, acedem a sistemas não autorizados ou relatam incorretamente os seus comportamentos.

A empresa compara isto à internet nas suas fases iniciais, que só se tornou uma base para negócios e comunicação depois de implementados mecanismos de segurança, tais como ligações encriptadas, separação por abas sandbox dos browsers e indicadores de confiança visíveis. A NVIDIA defende que também os agentes de IA precisam de uma camada de confiança semelhante para se expandirem de forma fiável para uma “economia de agentes”, e que os controlos de segurança devem acelerar, e não travar, a inovação.

OpenShell Runtime: Isolamento ao nível do kernel

O núcleo da plataforma é o NVIDIA OpenShell, um runtime de segurança de código aberto licenciado sob a Apache 2.0. O OpenShell executa cada agente numa sandbox com isolamento ao nível do kernel e converte as instruções dos operadores em políticas verificáveis. Define permissões para acesso a ficheiros, rede, ferramentas, processos e credenciais. Estas restrições são verificadas antes da execução e aplicadas de forma contínua durante o funcionamento.

A plataforma é construída sobre cinco princípios: políticas devem ser verificadas antes da execução do agente; a execução deve ocorrer em zonas inacessíveis ao agente; a via para o modelo é o ponto de controlo principal e superfície de observação; os privilégios do agente aumentam juntamente com a transparência do seu raciocínio; a responsabilidade pela segurança é partilhada entre laboratórios, empresas e fornecedores de hardware.

A própria investigação da NVIDIA destaca o problema do “desvio” — agentes que se afastam das tarefas esperadas devido a instruções pouco claras, políticas restritivas, ausência de ferramentas ou funcionamento autónomo prolongado. Segundo a empresa, não é possível eliminar totalmente o desvio sem sacrificar a capacidade dos agentes, pelo que não é razoável esperar que estes controlem autonomamente o seu comportamento nestes casos.

Execução forçada em hardware em larga escala

A arquitetura inclui três camadas: aplicação (modelo, ferramentas, frameworks e dados), runtime (orquestração e execução de políticas) e infraestrutura (recursos de computação, armazenamento e rede). Para organizações que exijam uma segunda camada independente, o NVIDIA Sentry expande o monitoramento e a execução através do NVIDIA DOCA para as unidades de processamento de dados BlueField-4, associando interações dos agentes, decisões de políticas e acesso a dados ao registo de contexto de atividades, enquanto valida continuamente a identidade e autorização de cada agente.

Na configuração NVIDIA Vera Rubin POD, o BlueField-4 DPU está posicionado como o único caminho do nó até ao modelo, fornecendo observabilidade fora de banda e execução de políticas em tempo real à velocidade da linha, isolado do host. Isto permite proteção de segurança ao nível do chip mesmo quando os recursos do host não são confiáveis. A NVIDIA indica que, para implementações Vera e BlueField-4 já existentes, basta atualizar o software para ativar estas proteções; a plataforma é também compatível com hardware não NVIDIA.

A NVIDIA refere estar a colaborar com laboratórios de ponta, programadores e fornecedores de infraestrutura para transformar esta plataforma na base aberta da nova economia de agentes, posicionando o controlo independente baseado em hardware como pré-requisito para sistemas autónomos de confiança em larga escala.