A Anthropic anunciou a seleção da Accenture como a sua primeira avaliadora externa integrada, marcando o primeiro passo concreto da empresa tecnológica para implementar a proposta do seu presidente executivo, Dario Amodei, de desacelerar o ritmo de desenvolvimento da inteligência artificial. Ambas as empresas acordaram investir pelo menos 1 bilião de dólares nos próximos cinco anos para capacitar esta área de atuação. No entanto, dada a urgência e a importância do tema, a Anthropic confirmou que irá financiar diretamente o trabalho inicial da Accenture.
A tecnológica esclareceu que, a longo prazo, o financiamento para este tipo de avaliações independentes deverá provir de fundos partilhados ou de fontes governamentais, tal como a empresa já tinha defendido na sua estrutura para inteligência artificial avançada apresentada em junho. Uma vez que estes mecanismos públicos ainda não existem, a Anthropic planeia colaborar com diferentes avaliadores sob diversos acordos financeiros para garantir a supervisão contínua dos seus sistemas.
O plano de Dario Amodei e a reação do setor tecnológico
A iniciativa surge após Dario Amodei ter apresentado um plano estruturado em três etapas para moderar a velocidade com que as empresas do setor melhoram os seus modelos mais avançados. A Anthropic e a sua principal rival, a OpenAI, têm estado sob forte escrutínio devido aos avisos de vários investigadores sobre os potenciais danos catastróficos que a tecnologia pode causar se não for devidamente controlada. A proposta de Amodei recebeu o apoio de figuras como Sam Altman, presidente executivo da OpenAI, e Elon Musk, líder da Tesla, embora outros líderes do setor, como Jensen Huang da Nvidia, tenham desvalorizado as preocupações com a regulamentação.
A primeira fase deste plano prevê a concessão de acesso total, semelhante ao de um colaborador interno, a avaliadores terceiros para verificar as práticas de segurança e reportar incidentes. A Anthropic assumiu este compromisso de forma unilateral e incentivou outras empresas do setor a adotarem a mesma postura. Numa fase inicial, a tecnológica vai integrar profissionais da Faculty, a unidade especializada em inteligência artificial da Accenture, para testar salvaguardas e avaliar se o comportamento dos modelos está alinhado com os valores humanos.
Responsabilidade partilhada e evolução do processo
A parceria estabelecida com a Accenture não é exclusiva, estando a Anthropic já em conversações com a organização sem fins lucrativos METR e com outras entidades independentes. A empresa fez questão de enfatizar que a responsabilidade final pela segurança dos seus modelos de inteligência artificial continua a ser inteiramente sua, e que a colaboração com avaliadores externos não reduz de forma alguma a sua prestação de contas perante o público e os reguladores.
Ao partilhar estes esforços iniciais, a Anthropic pretende que outros criadores de tecnologia possam acompanhar o processo e adotar medidas semelhantes. A empresa prevê que esta abordagem evolua à medida que o setor amadureça, prometendo divulgar novos detalhes assim que os trabalhos práticos comecem e novos avaliadores sejam integrados na equipa de monitorização.