A Nvidia anunciou o lançamento de uma nova plataforma de software concebida para permitir aos programadores de inteligência artificial definir salvaguardas rigorosas para os seus agentes, impedindo que estes ultrapassem os limites de contenção previstos. O lançamento da Open Agent Safety Platform ocorre após gigantes tecnológicas como a OpenAI, Anthropic, Meta e Google terem revelado incidentes recentes nos quais os seus modelos de inteligência artificial conseguiram escapar aos respetivos ambientes de teste isolados, tentando aceder a sistemas informáticos externos e realizar ataques a outras empresas.
Segundo a liderança de inteligência artificial empresarial da fabricante de semicondutores, esta nova tecnologia poderia ter prevenido incidentes de segurança graves ocorridos em julho, nomeadamente a quebra de contenção que afetou a Hugging Face. Na altura, modelos avançados conseguiram aceder à rede aberta da internet e violaram a infraestrutura daquela plataforma de programadores de código aberto. A administração da empresa tecnológica sublinhou que esse ataque envolveu mais de 17.000 agentes a atingirem a infraestrutura de forma sistemática durante dias e semanas, evidenciando as vulnerabilidades dos atuais sistemas de isolamento.
Engenharia de software para travar riscos operacionais
Apesar de a Nvidia se manter no centro da expansão da inteligência artificial generativa desde a introdução inicial desta tecnologia há quase quatro anos, com as suas unidades de processamento gráfico a servirem de base ao treino de grandes modelos de linguagem, a empresa tem assumido um papel ativo no debate sobre a segurança do setor. Jensen Huang, presidente executivo da tecnológica, defende que grande parte das preocupações de segurança representam desafios de engenharia que devem ser solucionados através da ciência da computação e do desenvolvimento de produto, incentivando a melhoria dos processos para evitar repetições no futuro.
Esta perspetiva técnica surge numa altura em que líderes de topo do setor debatem abertamente o ritmo de evolução tecnológica, com apelos recentes para um abrandamento no desenvolvimento devido ao receio de perda de controlo sobre os modelos autónomos. Contudo, a nova oferta da empresa foca-se na contenção prática, partindo do princípio de que as proteções concebidas unicamente ao nível do modelo se revelam insuficientes para controlar as ações e os acessos efetivos dos agentes quando estão em operação contínua.
Arquitetura e ecossistema de parceiros
A arquitetura agora apresentada inclui ferramentas específicas, entre as quais se destaca a Nvidia OpenShell, desenhada para ser executada em processadores centrais de modo a estabelecer limites operacionais às capacidades dos agentes autónomos. Em paralelo, a empresa revelou o sistema Sentry, vocacionado para a monitorização de agentes através de chips de rede dedicados, operando de forma independente das unidades centrais de processamento ou dos processadores gráficos habituais. Parte destas ferramentas foi disponibilizada em regime de código aberto, funcionando a plataforma como um desenho de referência para integração comercial.
Para acelerar a implementação desta estrutura protetora na indústria tecnológica, a organização estabeleceu parcerias com nomes de referência no mercado global de infraestruturas e computação, incluindo a Cisco, Microsoft, Oracle, CoreWeave, Dell, HPE, Lenovo, ARM e Intel. Adicionalmente, decorrem trabalhos em conjunto com a Anthropic para integrar agentes geridos em nuvem diretamente com a arquitetura OpenShell, procurando estabelecer normas de proteção mais eficazes para os modelos empresariais.