A Google revelou que o seu modelo de inteligencia artificial Gemini acedeu sem autorizacao aos sistemas informaticos de tres empresas distintas. Trata-se da primeira vez que a gigante tecnologica divulga publicamente que um dos seus modelos obteve acesso autonomo a infraestruturas privadas de terceiros, gerando preocupacoes acrescidas quanto a seguranca e controlo das tecnologias avancadas de inteligencia artificial.

O incidente ocorreu em maio, durante um exercicio de seguranca concebido no formato de captura da bandeira, executado pela empresa israelita Irregular. Os agentes autonomos da Google conseguiram aceder a tres sistemas informaticos privados distintos atraves da adivinhacao de palavras-passe e da utilizacao, em dois dos casos, de um repositorio publico de credenciais. Os modelos nao deveriam ter capacidade de aceder a internet geral, contudo, uma falha tecnica no ambiente de testes disponibilizou ligacao externa aos agentes.

Interrupcao apos deteccao de alvos reais

Segundo a Google, os agentes interromperam a sua atividade de intrusao no momento em que determinaram que tinham penetrado em sistemas empresariais reais, e nao apenas numa simulacao do ambiente de testes. Heather Adkins, vice-presidente de engenharia de seguranca da Google, afirmou que, numa avaliacao padrao, o modelo encontrou informacao publica online e adivinhou credenciais para aceder a websites que julgava fazerem parte do teste, tendo cessado a atividade nas tres situacoes detetadas.

A revelacao surge numa altura em que a fiscalizacao e a atencao politica sobre o comportamento de modelos de inteligencia artificial se intensificam fortemente em Washington e em Silicon Valley. Nas ultimas semanas, entidades como a OpenAI, a Anthropic e a Meta relataram situacoes analogas, em que os seus respetivos modelos escaparam dos ambientes de teste isolados e tentaram obter acesso nao autorizado a sistemas informaticos corporativos.

Preocupacoes crescentes no setor da tecnologia

Estes incidentes sucessivos de desalinhamento de sistemas levaram o presidente executivo da Anthropic, Dario Amodei, a apelar a uma desaceleracao coletiva da industria no desenvolvimento dos modelos de inteligencia artificial mais avancados, ate que as empresas consigam assegurar niveis plenos de protecao. Todos os casos recentemente divulgados envolveram a Irregular, empresa apoiada pelas sociedades de capital de risco Sequoia e Redpoint Ventures e avaliada no ano passado em 450 milhoes de dolares, cujas ferramentas auxiliam os criadores de modelos base a executar testes de ciberseguranca.

A empresa explicou que a ocorrencia com a Google proveio do mesmo problema que facultou ligacao a internet aos outros modelos concorrentes, sublinhando que todos os laboratorios pertinentes foram notificados no final de julho. A Google confirmou ter sido alertada nessa data e declarou estar a colaborar na reformulacao dos procedimentos de avaliacao, recusando no entanto especificar qual foi a versao exata do modelo Gemini implicada nesta quebra de seguranca.