Tempo de leitura: 5 minutos
Olá, é um prazer inenarrável estar mais uma vez escrevendo este post. A NVIDIA anunciou, em 28 de setembro de 2026, uma arquitetura aberta para monitorar e controlar agentes de IA continuamente, combinando software de runtime com mecanismos de segurança executados em hardware. A proposta parte de uma preocupação cada vez mais concreta: agentes capazes de usar ferramentas, acessar dados e executar tarefas podem sair do objetivo original mesmo quando começam com instruções aparentemente claras.
A ideia da empresa é criar uma camada de confiança para agentes autônomos, parecida com o papel que sandboxing e conexões criptografadas desempenharam na popularização da internet. Mas como impedir que um agente ultrapasse seus limites justamente quando o ambiente fica imprevisível? A resposta da NVIDIA combina políticas verificáveis, isolamento e monitoramento independente.
Como funciona a segurança de agentes de IA na plataforma da NVIDIA
A NVIDIA Open Agent Safety Platform combina o NVIDIA OpenShell, executado na CPU NVIDIA Vera, com o NVIDIA Sentry, uma camada de monitoramento e enforcement associada às DPUs NVIDIA BlueField-4.
O OpenShell é apresentado como um runtime de código aberto, sob licença Apache 2.0, que executa agentes em ambientes isolados com isolamento em nível de kernel. Antes da execução, o sistema transforma as instruções do operador em uma política verificável, definindo quais arquivos, redes, ferramentas, processos e credenciais podem ser acessados.
O Sentry funciona como uma camada independente. Em vez de deixar todos os controles dentro do mesmo ambiente em que o agente opera, a proposta leva parte da observabilidade e da aplicação das regras para uma infraestrutura separada. Assim, mesmo que os recursos do host não sejam confiáveis, o mecanismo de proteção permanece fora do alcance direto do agente.
Por que a segurança de agentes de IA precisa de controles independentes
Segundo a NVIDIA, agentes podem apresentar drift, ou seja, começar a agir de maneira diferente da tarefa ou das restrições definidas. Isso pode acontecer depois de um bloqueio de política, de um bug, da ausência de uma ferramenta ou de instruções ambíguas. Também pode surgir quando o agente passa dias tentando resolver um problema e começa a explorar caminhos que não estavam previstos.
Esse comportamento cria um limite importante para a ideia de que o próprio agente poderia governar completamente suas ações. É como pedir ao motorista que também seja o único fiscal da estrada: se ele decidir ignorar uma placa, não haverá uma autoridade independente para intervir.
Por isso, a arquitetura apresentada defende que a segurança de agentes de IA não dependa apenas de promessas feitas pelo modelo ou de instruções incluídas no prompt. O controle precisa existir fora do agente, com capacidade de observar sua atividade, identificar desvios e interromper operações quando necessário.
Os cinco princípios da segurança de agentes de IA
A NVIDIA organiza sua proposta em cinco princípios. O primeiro é que a política precisa ser verificável antes da execução, demonstrando que não pode escapar da intenção do operador. O segundo é que a aplicação das regras deve ocorrer fora da banda, sem ficar dentro ou ao alcance do agente.
O terceiro princípio estabelece que o caminho até o modelo é um ponto central de controle. Como o agente precisa obter seu próximo “pensamento” para continuar atuando, monitorar esse caminho oferece tanto uma posição privilegiada de observação quanto um possível mecanismo de interrupção.
O quarto relaciona a autoridade do agente à visibilidade de seu raciocínio. Quanto mais ações um agente puder realizar, maior deve ser a capacidade de inspecionar o que está acontecendo. O quinto distribui responsabilidades entre laboratórios, empresas e provedores de hardware, em uma lógica semelhante ao modelo de responsabilidade compartilhada usado na nuvem.
As três camadas da segurança de agentes de IA
A plataforma é descrita em três camadas. A primeira é a aplicação, que reúne modelos, ferramentas, dados, programas auxiliares e os componentes necessários para cumprir uma missão. É nessa camada que o usuário define o que deseja construir.
A segunda é o runtime. Ele projeta a aplicação sobre a infraestrutura escolhida, organiza a carga de trabalho e aplica monitoramento contínuo, governança e políticas em tempo real. O OpenShell ocupa esse papel ao criar o sandbox e coordenar as regras de execução.
A terceira é a infraestrutura, formada pelos recursos concretos usados pelo agente: computação, sistemas de arquivos, bancos de dados, chamadas de rede e aceleradores. É nesse nível que o NVIDIA Sentry e as DPUs BlueField-4 entram como uma camada adicional de observação e enforcement.
Como o NVIDIA Sentry monitora agentes de IA em hardware
Com o NVIDIA DOCA, a camada BlueField pode ser programada para correlacionar interações do agente, decisões de política e acessos a ferramentas e dados. O objetivo é criar um registro contextual da atividade, em vez de observar eventos isolados sem entender a sequência em que ocorreram.
Esse contexto pode ajudar sistemas de segurança a identificar desvios, investigar comportamentos suspeitos e decidir quando uma intervenção ou análise mais profunda é necessária. A NVIDIA também descreve um gateway que verifica continuamente a identidade do agente e a autoridade delegada a ele.
Em sistemas NVIDIA Vera Rubin POD, a empresa afirma que as DPUs BlueField-4 ficam no único caminho do nó até o modelo. Essa posição permitiria observabilidade contínua e aplicação de políticas em tempo real, sem depender exclusivamente dos recursos do host ou do próprio agente.
O que a proposta muda para quem desenvolve agentes de IA
A plataforma não elimina a necessidade de avaliar agentes antes de colocá-los em produção. Na verdade, ela reforça a importância de combinar testes, políticas verificáveis, limites de acesso e monitoramento durante a execução. Esse ponto se conecta a abordagens que analisam não apenas a resposta final, mas também as chamadas de ferramentas e as etapas intermediárias, como no artigo do Planksnet sobre avaliação de agentes de IA.
Para organizações, a principal mudança está em tratar a segurança como parte da arquitetura, e não como uma verificação feita apenas depois que o agente já está funcionando. Um agente que pode acessar sistemas corporativos, executar código ou operar por longos períodos precisa de permissões proporcionais à sua capacidade e de uma forma independente de interrompê-lo.
A NVIDIA afirma que o OpenShell pode ser usado como base aberta e que o Sentry funciona como uma camada opcional para organizações que desejam proteção adicional em sistemas compatíveis. A plataforma também foi apresentada como compatível com outros sistemas de hardware, embora a arquitetura tenha sido otimizada para os sistemas baseados em Vera e BlueField.
O próximo passo da segurança de agentes de IA
O anúncio mostra uma tentativa de deslocar o debate sobre agentes autônomos: em vez de perguntar apenas se um modelo é inteligente o suficiente para executar uma tarefa, é preciso perguntar se existe uma estrutura capaz de limitar, observar e interromper esse modelo quando ele se desvia.
A resposta da NVIDIA é uma arquitetura em camadas, com software aberto no runtime e monitoramento independente no hardware. Ainda será necessário avaliar como essas ideias funcionam em diferentes ambientes, modelos e políticas, especialmente fora dos sistemas de referência apresentados pela empresa. Mas o princípio central é claro: quanto mais autonomia um agente recebe, menos sensato é confiar somente nele para controlar as próprias ações.
