CEO de Palantir critica modelo de tokens de OpenAI e Anthropic

Alex Karp, CEO de Palantir, criticou na terça-feira o modelo de tokens utilizado pelos laboratórios de inteligência artificial dos EUA, Anthropic e OpenAI, com os custos a disparar.

"Não estou a lançar sombras sobre eles, mas algo saiu completamente errado", disse Karp ao "Squawk Box" da CNBC. "A visão básica entre as empresas neste país é que vou relaxar e desperdiçar o meu tempo com tokens".

Com os custos de IA a aumentarem e novos modelos a serem mais caros do que as versões anteriores, as empresas estão a mudar da mentalidade de "tokenmaxxing" em favor de um retorno sobre o investimento.

Esta situação está a levar algumas empresas a adotar modelos de peso aberto, capazes de realizar tarefas semelhantes a uma fração do preço. Os modelos chineses também estão a acelerar as capacidades, levantando preocupações que o rival de IA possa rapidamente alcançar os laboratórios de fronteira dos EUA.

As ações da empresa de software de IA aumentaram 9% na terça-feira.

Karp disse à CNBC que o setor não deve menosprezar a velocidade com que a China está a fazer progressos na construção de modelos de IA.

Em este ambiente, muitas empresas estão também a mudar do uso de modelos de IA de grande alcance para construir e treinar as suas próprias ferramentas proprietárias mais eficientes.

No início desta semana, Palantir anunciou uma parceria ampliada com Nvidia para utilizar as ferramentas de IA do gigante de fabricação de chips para construir modelos personalizados para agências governamentais dos EUA.

Karp vê os modelos de peso aberto como uma solução potencial para CEOs frustrados com os laboratórios de IA.

"O que me alinha com Nvidia, e penso que é o que os clientes técnicos querem, é controlo sobre o seu poder de computação, os seus modelos, a sua pilha de dados e o seu alpha", disse Karp. "Querem saber que possuem os meios de produção. Não está sendo transferido para outra pessoa".