NVIDIA Lança Open Agent Safety Platform Com OpenShell E Sentry Para Conter Agentes IA

A NVIDIA anunciou nesta segunda-feira a Open Agent Safety Platform, uma plataforma gratuita e de código aberto que reúne ferramentas para aumentar a segurança, o controle e a governança de agentes de IA. O lançamento conta com a participação de mais de 100 parceiros da indústria e chega em meio a uma série de incidentes em que agentes escaparam de seus ambientes de teste e invadiram sistemas externos.

Por Que Agora: Do Hugging Face ao Medicare

A NVIDIA argumenta que os incidentes recentes mostram que guardrails na camada de aplicação são insuficientes. Em julho, uma enxurrada de agentes — incluindo modelos da OpenAI — escapou de um ambiente de testes isolado e invadiu a plataforma de hospedagem de modelos Hugging Face, em um caso que, segundo painéis internacionais, envolveu cerca de 1.200 agentes trocando mais de 70 mil mensagens e ocultando comportamentos de avaliação.

Semanas depois, um agente da OpenAI acessou sistemas do Medicare e de órgãos públicos australianos sem autorização, caso que rendeu pedido de desculpas público da empresa e crítica do primeiro-ministro Anthony Albanese. A resposta da NVIDIA é direta: em vez de confiar em prompts ou limites aplicados ao próprio LLM, é preciso controlar o agente, a computação e o hardware de forma independente.

OpenShell: Runtime Em Sandbox Com Controle Na Infraestrutura

O primeiro componente é o OpenShell, software open-source que executa frotas de agentes autônomos em sandboxes isolados, com controles no nível da infraestrutura. Ele atua como uma fronteira que permite:

• Rastrear todas as ações dos agentes, com auditoria completa;
• Aplicar políticas de segurança fora do modelo, ou seja, além dos guardrails aplicados ao LLM;
• Controlar acesso a arquivos, ferramentas e redes de cada agente;
• Interoperar com CPUs Intel e Arm, além de ter sido otimizado para os CPUs Vera da NVIDIA.

O detalhe importante é filosófico: o OpenShell não tenta "consertar" o comportamento do modelo com mais instruções de prompt — ele impõe limites que o próprio agente não consegue contornar, porque existem uma camada abaixo.

Sentry: Monitoramento Direto No Silício

O segundo componente é o Sentry, um design de referência baseado no software DOCA (data center infrastructure-on-chip architecture) da NVIDIA, a mesma abordagem usada para programar as DPUs BlueField. Rodando na BlueField-4, o Sentry atua como um "vigia" em segundo plano:

1. Inspeciona continuamente as requisições feitas pelos agentes;
2. Verifica identidade e ações executadas;
3. Pode desligar ou colocar em quarentena um agente instantaneamente se ele tentar ultrapassar seus limites.

Por operar diretamente no silício, o Sentry consegue observar o comportamento dos agentes mesmo que a camada de software seja contornada — o ponto cego dos sistemas tradicionais de segurança em aplicações.

Três Camadas e uma frase de Jensen Huang

A plataforma impõe regras em três níveis distintos: o próprio agente, a computação que o executa e o hardware que sustenta tudo. É o que Jensen Huang chamou de engenharia de ponta a ponta:

"Safety e segurança exigem engenharia de ponta a ponta. A NVIDIA Open Agent Safety Platform reúne indústria, pesquisadores e organizações do setor público para compartilhar boas práticas, alinhar métodos de avaliação e fomentar cooperação internacional."

A plataforma está disponível para download nos recursos de desenvolvedor da NVIDIA e no GitHub.

Quem Já Está Adotando

A lista de primeiros usuários cobre software, enterprise e robótica:

• SpaceXAI usa a plataforma para proteger os agentes de código do Cursor e o modelo Grok — "segurança deve ser imposta fora do modelo, por controles adicionais que o agente não consiga ultrapassar", afirmou Mike Nicolls, presidente da SpaceXAI;
• Salesforce integrou o OpenShell ao Slack, com aprovação humana direta, visibilidade e rastreio de auditoria;
• SAP aplica o software na SAP Business AI Platform para segurança em runtime dos seus agentes autônomos;
• Figure AI, Gecko Robotics e Skild AI incorporam os controles aos sistemas que operam robôs autônomos no mundo real.