Apple está em conversações com uma pequena empresa de Silicon Valley que afirma conseguir comprimir modelos de inteligência artificial de grande dimensão ao ponto de estes poderem correr diretamente num iPhone, afirmou o CEO da startup.

A PrismML, um spin-off apoiado pela Khosla Ventures e originado no Instituto de Tecnologia da Califórnia, lançou publicamente versões comprimidas do modelo Qwen de código aberto da Alibaba na terça-feira. A empresa indicou que reduziu o modelo de cerca de 54 GB para menos de 4 GB, permitindo que todos os seus 27 mil milhões de parâmetros corram num iPhone 15 ou mais recente.

O CEO da PrismML, Babak Hassibi, afirmou que a Apple e outras empresas têm vindo a avaliar os modelos da startup e a medir a sua velocidade, eficiência energética e desempenho em dispositivos. Segundo Hassibi, a Apple está a avaliar ativamente a tecnologia da empresa. Descreveu as conversações como muito preliminares e disse que ainda não é claro em que vão resultar, mas sublinhou que a evolução tem sido positiva.

Apple não respondeu de imediato a um pedido de comentário. O avanço tecnológico da PrismML já tinha sido noticiado anteriormente.

O lançamento da PrismML surge um dia depois de Apple ter aberto a versão beta pública do iOS 27, dando aos proprietários de iPhone o primeiro acesso alargado à remodelação há muito adiada da Siri. Apple procura tornar a Siri mais competitiva face a assistentes da OpenAI e da Anthropic, mantendo simultaneamente mais informação pessoal e processamento de IA diretamente no dispositivo.

Esta abordagem pode ajudar a resolver uma das principais limitações da estratégia de IA da Apple. Os modelos mais avançados exigem, em geral, demasiada memória e capacidade de processamento para correr num smartphone.

Apple pode enviar pedidos complexos para modelos baseados na cloud, mas executar mais IA diretamente no iPhone reduz a latência associada ao envio de dados para um servidor remoto, diminui os custos de computação em cloud e reforça a proposta da empresa em matéria de privacidade. Permite também que determinadas funcionalidades funcionem sem ligação à internet.

Carolina Milanesi, presidente e analista principal na Creative Strategies, afirmou que modelos mais pequenos podem permitir à Apple transferir funcionalidades mais exigentes para o iPhone, incluindo fotografia computacional, geração de vídeo e ferramentas de saúde ou fitness que dependem de dados pessoais sensíveis. Segundo Milanesi, quanto mais se conseguir fazer no próprio dispositivo, melhor, apontando para dados de saúde e medicação que os utilizadores querem manter privados.

A PrismML explicou que comprime modelos de IA ao simplificar de forma drástica a forma como a sua informação interna é armazenada, reduzindo cada valor de 16 bits para apenas uma ou três possibilidades. Esta alteração diminui significativamente a memória necessária para armazenar e operar o modelo.

Hassibi comparou a tecnologia à evolução da indústria de chips de oito para quatro bits, acrescentando que a PrismML vai um passo mais além.

Segundo a startup, os modelos comprimidos utilizam entre 10 e 15 vezes menos memória, geram respostas seis a oito vezes mais rápidas e consomem entre três e seis vezes menos energia do que versões convencionais a correr em hardware existente.

Hassibi reconheceu, contudo, que existe um compromisso. Os modelos da PrismML perdem normalmente alguns pontos percentuais de desempenho global, com a capacidade de recordar factos a degradar-se antes de competências como raciocínio, matemática e programação.

A PrismML está a disponibilizar gratuitamente duas versões comprimidas do modelo. Foram concebidas para correr em dispositivos do dia a dia, incluindo iPhones, MacBooks e computadores pessoais com GPUs da Nvidia.

A tecnologia nasceu no grupo de investigação de Hassibi em Caltech. A universidade é proprietária das patentes subjacentes e licencia-as em exclusivo à PrismML. Em março, a empresa angariou uma ronda seed de 16,25 milhões de dólares, com o apoio da Khosla Ventures e de outros investidores.

Hassibi adiantou que o modelo de código aberto Gemma, da Google, será o próximo na linha de compressão, seguindo-se modelos substancialmente maiores, incluindo modelos de laboratórios de fronteira que hoje, em geral, requerem hardware de datacenter.

De acordo com a PrismML, a tecnologia pode, em última instância, estender-se muito para além de telemóveis e computadores portáteis, abrangendo robótica, sistemas autónomos e outros produtos que precisam de tomar decisões rapidamente sem depender de uma ligação à cloud. Hassibi salientou que é muito importante que a inteligência seja local e consiga correr de forma rápida.

Vantagem da Apple no processamento local

Apple já executa partes do seu sistema de IA localmente, incluindo tradução, alguma sumarização e funcionalidades estreitamente ligadas a informação pessoal. Pedidos mais complexos são encaminhados para a infraestrutura privada de cloud da Apple ou para modelos externos.

Horace Dediu, fundador da Asymco, afirmou que Apple procura provavelmente manter a grande maioria das interações comuns com a Siri no dispositivo, reservando as tarefas mais exigentes para a cloud. Segundo Dediu, a vantagem não está apenas em usar menos memória, mas em conseguir encaixar um modelo mais capaz dentro dos mesmos limites físicos. Apple está a tentar perceber quão grande e quão sofisticado pode ser o modelo que cabe no dispositivo. Manter os pedidos comuns localmente dá à empresa menor latência, maior privacidade e potencialmente menores custos de licenciamento e de cloud.

Apple poderá ter uma vantagem na aplicação destes modelos porque concebe em conjunto os chips e o software do iPhone, o que lhe dá um controlo mais apertado sobre a forma como a IA corre no dispositivo.

Analistas alertam, no entanto, que as afirmações da PrismML ainda precisam de ser comprovadas fora de demonstrações controladas. Tarun Pathak, diretor de investigação na Counterpoint Research, afirmou que o desempenho do modelo em pedidos longos, o consumo de bateria durante multitarefa e a fiabilidade em milhões de interações serão aspetos críticos. Para Pathak, o teste decisivo será a execução de milhões de pedidos, em milhares de combinações de dispositivos e testes extensivos em larga escala.

Phil Solis, responsável pela investigação sobre processadores cliente na IDC, disse que o consumo de energia pode ser a principal questão em aberto. Um modelo suficientemente capaz para ser usado com frequência, ou de forma contínua em segundo plano em tarefas de tipo agente, pode esgotar a bateria de um telemóvel mesmo que exija menos memória.

Impacto na procura de chips

O lançamento da PrismML ocorre também num contexto de debate intenso sobre se ganhos de eficiência em IA poderão, eventualmente, reduzir a procura por chips de memória e infraestrutura cara de datacenter.

A memória tornou-se uma das maiores limitações e um dos principais custos em eletrónica de consumo e servidores de IA. Estimativas apontam que o custo médio por bit de memória DRAM da Apple poderá subir cerca de 190% em termos anuais no exercício fiscal de 2027, com os custos de NAND a aumentarem aproximadamente 180%. NAND é normalmente utilizada em pens USB e unidades de estado sólido.

Há expectativas de que Apple venha a aumentar em cerca de 200 dólares o preço inicial de modelos comparáveis de iPhone 18 para proteger as margens.

A PrismML afirmou que a sua abordagem pode permitir que um modelo em cloud que normalmente necessita de oito GPUs passe a correr com apenas uma, ao mesmo tempo que possibilita a migração de modelos que antes exigiam um servidor para telemóveis e computadores portáteis.

Isso poderá reduzir a quantidade de memória ou de capacidade de computação necessária para uma determinada tarefa de IA. No entanto, não significa necessariamente que a procura global por chips vá diminuir.

Gil Luria, analista na D.A. Davidson, afirmou que a compressão de modelos não elimina a necessidade de processadores ou memória, podendo apenas deslocar mais chips dos datacenters para telemóveis e outros dispositivos. Segundo Luria, o chip continua a ser necessário, tal como a GPU e a memória.

Luria acrescentou que executar IA em dispositivos individuais pode ser, na realidade, menos eficiente do que usar infraestrutura partilhada de datacenter, porque os chips em telemóveis podem ficar inativos grande parte do tempo.

Quebras significativas de custos e melhorias de eficiência podem também conduzir a uma utilização mais intensa, em vez de menor despesa, já que uma IA mais barata e rápida viabiliza novos produtos e leva os consumidores a correr modelos com maior frequência.

O mercado tem reagido de forma rápida a qualquer sinal de que a IA poderá precisar de menos memória do que o previsto. As ações da Micron caíram acentuadamente em março após a publicação do artigo TurboQuant da Google sobre redução do uso de memória sem perda de desempenho, embora a cotação tenha recuperado mais tarde.

O lançamento público da PrismML permite que utilizadores comuns e investidores testem se os ganhos anunciados se verificam fora do laboratório. Para Apple, conseguir executar IA mais capaz diretamente no iPhone pode ajudar a melhorar a Siri sem abdicar da privacidade e da integração entre hardware e software que distinguem os seus dispositivos.