A Anthropic está a reforçar os alertas sobre o uso ilícito dos seus modelos de inteligência artificial Claude por laboratórios estrangeiros, em particular na China, através de técnicas de distilação e de redes de contas fraudulentas alimentadas por dados obtidos no dark web.

Distilação entre concorrência e roubo

Jacob Klein, responsável de threat intelligence da Anthropic, afirma que a empresa aceita a existência de concorrência, mas considera que parte do que está a surgir a partir do mercado chinês se aproxima muito mais de roubo de propriedade intelectual do que de competição legítima. Segundo Klein, adversários estrangeiros estão a aceder aos modelos Claude para realizar distilação, utilizando as respostas do modelo para treinar tecnologias concorrentes e comercializar versões copiadas a preços mais baixos.

A distilação é uma prática controversa no setor da inteligência artificial. Dependendo da forma como é conduzida, permite que um desenvolvedor use o output de um modelo de outra empresa para criar uma alternativa competitiva com uma fração dos custos. Nos Estados Unidos, há quem defenda que os decisores políticos evitem regulamentar esta prática, argumentando que tal permitirá que as soluções de IA mais eficientes e económicas prevaleçam, enquanto outros pressionam por medidas mais duras, que consideram essenciais para proteger a propriedade intelectual.

Num memorando de abril, a administração Trump classificou como inaceitável qualquer distilação que comprometa a investigação norte-americana e informação proprietária, e indicou que iria explorar um conjunto de medidas para responsabilizar atores estrangeiros.

Atenção centrada na China e na Moonshot AI

As acusações surgem num momento crucial para a Anthropic, que em cinco anos alcança uma valorização privada próxima de 1 trilião de dólares e é apontada como potencial candidata a estreia em bolsa já em outubro.

A empresa identifica o laboratório chinês Moonshot AI como um dos principais utilizadores ilegítimos da sua tecnologia. O modelo Kimi K3, desenvolvido pela Moonshot, ganhou protagonismo em julho com uma oferta de IA de fronteira mais barata, amplamente adotada em Silicon Valley graças ao preço inferior e à maior facilidade de adaptação por parte das empresas.

Klein afirma que o Kimi K3 foi treinado ilegalmente com base na versão mais recente do Claude. O responsável indica que foi detetado um volume significativo deste tipo de atividade proveniente da China e sublinha que se trata de um problema com impacto em toda a indústria de IA.

Mais cedo este ano, a Anthropic acusou a Moonshot e outros dois laboratórios chineses, DeepSeek e MiniMax, de terem realizado distilação dos seus modelos de IA de fronteira. A empresa também acusou a Alibaba, criadora da família de modelos Qwen, de conduzir um amplo "ataque de distilação" para capturar ilegalmente capacidades do Claude. Outras grandes tecnológicas de IA, como a OpenAI e a Google, publicaram relatórios sobre distilação e afirmam estar a enfrentar o mesmo tipo de ameaça.

Alibaba, DeepSeek, Moonshot e MiniMax não responderam aos pedidos de comentário.

Dark web, contas fraudulentas e expansão global da ameaça

Especialistas de cibersegurança indicam que, além da China, a ameaça também provém de países como Irão, Rússia e Coreia do Norte, onde o acesso ao Claude, ao Gemini da Google e ao ChatGPT da OpenAI é restringido pelas próprias empresas devido a sanções.

De acordo com Klein, muitos laboratórios nessas regiões recorrem a meios ilícitos e fraudulentos para obter acesso a modelos de IA. Um dos caminhos passa pelo uso do dark web, onde existem mercados com informação de cartões de crédito roubados e contas de IA comprometidas. Segundo Klein, empresas como a Moonshot estão a criar dezenas de milhares, ou mesmo centenas de milhares, de contas fraudulentas.

Depois de obterem acesso aos sistemas da Anthropic, estes atores conseguem enviar perguntas aos modelos e recolher as respostas, que utilizam para treinar o seu próprio modelo, frequentemente designado como modelo aluno. Um sinal claro de que está a ocorrer distilação é a existência de utilizadores a colocar milhares de perguntas, em vez de dezenas, possivelmente recorrendo à criação de milhares de contas para o mesmo efeito. Esta estratégia cria uma situação de perseguição constante para os laboratórios de IA, obrigados a encerrar sucessivas contas suspeitas.

Klein admite que é muito difícil eliminar totalmente este tipo de abuso, mas considera que abrandar o fenómeno já é um objetivo importante. O responsável alerta que empresas estrangeiras estão a usar a tecnologia com poucas salvaguardas.

Riscos de segurança e espionagem

Entre as principais preocupações, Klein destaca o risco de vigilância e o potencial uso da tecnologia em programas de armas biológicas. O responsável aponta ainda para o que descreve como uma campanha específica, conduzida por uma entidade sediada na China, dedicada a operações de espionagem em larga escala usando tecnologia da Anthropic.

Na sua visão, existe um risco de segurança nacional sempre que atores maliciosos, considerados não fiáveis, conseguem aceder a modelos mais avançados do que aqueles a que teriam acesso de outra forma através da distilação.

Pressão competitiva e limites da distilação legal

Travis Lanham, responsável tecnológico da empresa de cibersegurança Armadin e ex-engenheiro da Google, considera que muitos destes atores passam despercebidos porque as empresas de IA estão sob forte pressão para tornar as suas plataformas o mais acessíveis possível numa corrida intensa pela liderança do mercado. Segundo Lanham, os grandes laboratórios de IA servem biliões de pedidos e, nesse contexto, milhões de interações suspeitas representam uma fração reduzida do total, o que facilita que estes abusos se misturem com o tráfego legítimo.

Klein reconhece que, para a Anthropic, a concorrência alargada é inevitável e que existem métodos legais de distilação. Em termos gerais, tal implica obter permissões e cumprir a legislação aplicável em matérias como propriedade intelectual e controlos de exportação.

O responsável sublinha, contudo, que a preocupação central reside em práticas em que terceiros se apropriam do modelo da Anthropic, o destilam através de meios fraudulentos, criam milhões de contas falsas com cartões de crédito roubados e infraestrutura comprometida, para depois lançarem um modelo que não incorpora salvaguardas adequadas.