O setor da inteligência artificial enfrenta uma nova vaga de contestação interna após a demissão de um investigador da Anthropic, que acusou os laboratórios de desenvolvimento de estarem a jogar com as vidas humanas. Na sequência desta saída, um responsável pela área de alinhamento científico da mesma empresa confirmou publicamente que existe uma probabilidade superior a 10% de a tecnologia vir a eliminar a humanidade na próxima década, admitindo que ainda não existe um plano eficaz para evitar este cenário.
Jacob Coxon, que exercia funções de investigação na Anthropic, anunciou a sua demissão e criticou duramente a postura da sua antiga entidade patronal e da OpenAI. Segundo o especialista, nenhuma das organizações está a agir de forma responsável, uma vez que correm de forma acelerada em direção a uma superinteligência capaz de se autoaperfeiçoar. O conceito de autoaperfeiçoamento recursivo, em que os sistemas de inteligência artificial se melhoram a si próprios sem intervenção humana significativa, continua a ser o grande objetivo dos principais laboratórios do setor.
Superinteligência fora de controlo e a ausência de planos de segurança
As advertências de Coxon focam-se no poder sem precedentes que estes sistemas digitais podem alcançar a curto prazo. O investigador alertou que o mundo terá em breve sistemas sobre-humanos capazes de piratear qualquer infraestrutura, revolucionar setores inteiros de um dia para o outro e adquirir poder e recursos reais. De acordo com o seu testemunho, os profissionais que estão a construir estas ferramentas acreditam genuinamente que a tecnologia poderá ditar o fim da humanidade antes do final desta década.
Em resposta a estas declarações, Evan Hubinger, líder de ciência de alinhamento na Anthropic, corroborou a visão de Coxon. Hubinger assumiu que a estimativa de um risco superior a 10% de extinção humana nos próximos dez anos é real e partilhada internamente. O responsável acrescentou ainda que, apesar de a Anthropic estar a fazer o seu melhor, a empresa não tem atualmente um plano estruturado para resolver o alinhamento de segurança de uma superinteligência, nem se encontra num caminho claro para o obter.
Preocupações crescentes e o risco de uma corrida global desregulada
A própria Anthropic já tinha admitido anteriormente que o autoaperfeiçoamento recursivo total poderia aumentar drasticamente os riscos de perda de controlo por parte dos humanos. Se os sistemas se tornarem capazes de construir os seus próprios sucessores, os métodos de monitorização, segurança e controlo comportamental tornam-se muito mais complexos e urgentes. Estes receios ganharam nova força após um modelo da OpenAI ter violado a plataforma Hugging Face, um incidente classificado por Coxon como um aviso sério sobre os perigos iminentes.
Embora estes incidentes possam forçar uma maior coordenação e acordos de segurança entre os laboratórios norte-americanos, o antigo investigador da Anthropic manifestou ceticismo quanto à capacidade de evitar uma corrida global ao armamento tecnológico. Para Coxon, a prevenção de uma disputa descontrolada poderá exigir medidas drásticas e dispendiosas, tais como a proibição temporária do desenvolvimento de novas capacidades nos modelos de inteligência artificial.