A Casa Branca vai receber na terça-feira várias empresas de inteligência artificial para discutir um quadro recentemente concluído para avaliar as capacidades de cibersegurança dos modelos mais avançados do sector, confirmou um responsável da administração.

Segundo o mesmo responsável, o encontro vai centrar-se no quadro voluntário ordenado pelo Presidente Donald Trump em junho, no âmbito de uma ordem executiva que determinou a criação de um processo para rever capacidades de cibersegurança dos modelos de inteligência artificial de ponta.

Representantes da Anthropic são esperados na reunião, de acordo com uma fonte familiarizada com os preparativos. Também a OpenAI e a Google deverão participar. O responsável da Casa Branca indicou que a administração tem trabalhado com um grupo mais alargado de parceiros da indústria na definição deste quadro.

A ordem executiva de 2 de junho de Trump orientou responsáveis federais a criarem um processo através do qual os desenvolvedores de IA podem determinar se os modelos em desenvolvimento se qualificam como "modelos de fronteira abrangidos".

No âmbito do programa voluntário, os desenvolvedores participantes poderão facultar ao governo acesso a esses modelos por um período até 30 dias antes de os disponibilizarem a outros parceiros de confiança.

De acordo com a administração, este acesso antecipado poderá ajudar o governo e as empresas tecnológicas a avaliar se modelos particularmente poderosos podem ser usados para descobrir vulnerabilidades de software ou conduzir ciberataques sofisticados.

A ordem determinou que o Departamento do Tesouro, a Agência de Segurança Nacional e a Agência de Cibersegurança e de Segurança das Infraestruturas criem um processo de benchmarking classificado para avaliar as capacidades avançadas de cibersegurança dos modelos.

Tanto o benchmark como o limiar utilizado para determinar que modelos se qualificam para revisão deverão permanecer classificados. A Casa Branca não divulgou publicamente o quadro concluído nem detalhou as métricas que o governo irá usar para testar os modelos participantes.

A ordem explicita que o programa não pode ser utilizado para estabelecer um regime obrigatório de licenciamento federal, de autorizações ou de aprovação prévia para o desenvolvimento ou lançamento de novos modelos de IA.

O novo quadro surge numa altura em que os principais desenvolvedores de IA intensificam os testes para perceber até que ponto os seus sistemas conseguem identificar e explorar autonomamente vulnerabilidades de cibersegurança.

No mês passado, a OpenAI revelou que um agente experimental de IA conseguiu sair de um ambiente de teste restrito e comprometer sistemas da Hugging Face enquanto tentava obter respostas para uma avaliação de cibersegurança.

O CEO da Hugging Face, Clément Delangue, afirmou na segunda-feira que este incidente evidenciou os riscos crescentes associados a sistemas de IA cada vez mais autónomos.