Apple Está a Conversar com a Startup que Comprime IA Gigante num iPhone

Pontos-chave

• A PrismML, uma empresa derivada do Caltech apoiada pela Khosla Ventures, lançou publicamente um modelo de IA comprimido na terça-feira que cabe num iPhone 15 ou mais recente.
• A startup afirma ter reduzido o modelo Qwen de código aberto da Alibaba de aproximadamente 54 GB para menos de 4 GB, uma redução de mais de 13 vezes no tamanho.
• A Apple está em conversas iniciais com a PrismML para avaliar a tecnologia para utilização nos seus dispositivos, revelou o CEO da PrismML, Babak Hassibi, à CNBC.
• A PrismML angariou uma ronda de seed de 16,25 milhões de dólares em março de 2025.
• Os modelos comprimidos utilizam 10 a 15 vezes menos memória e geram respostas 6 a 8 vezes mais rápido do que as versões padrão, segundo a empresa.

Uma startup do Vale do Silício afirma ter descoberto como comprimir um poderoso modelo de IA, o tipo de software que alimenta chatbots como o ChatGPT, até um tamanho tão pequeno que pode ser executado inteiramente num iPhone. E a Apple aparentemente está interessada.

A PrismML, uma empresa derivada do Instituto de Tecnologia da Califórnia, lançou publicamente versões comprimidas do modelo Qwen de código aberto da Alibaba na terça-feira. O Qwen normalmente ocupa cerca de 54 gigabytes de armazenamento. A PrismML afirma ter reduzido isso para menos de 4 gigabytes, mantendo intactos todos os seus 27 mil milhões de pontos de dados internos, denominados parâmetros.

O CEO Babak Hassibi revelou à CNBC que a Apple e outras empresas sem nome estão ativamente a testar os modelos da startup, medindo velocidade, consumo de energia e desempenho geral em dispositivos reais. Descreveu as discussões com a Apple como muito iniciais, mas afirmou que "as coisas estão a evoluir bem."

O lançamento ocorreu um dia depois de a Apple ter aberto a beta pública do iOS 27, que dá aos proprietários de iPhone a sua primeira visão ampla da revisão há muito aguardada da Siri pela empresa.

Por que é importante se a IA funciona no seu telefone?

Executar IA diretamente num dispositivo, em vez de enviar o seu pedido para um servidor distante e esperar que a resposta chegue, é mais rápido e mantém os seus dados no seu telefone. Isto é mais importante quando a informação é pessoal: registos de saúde, horários de medicação, fotos. Também significa que certas funcionalidades funcionam sem qualquer ligação à internet.

A Apple já trata algumas tarefas localmente, incluindo tradução e resumo básico. Pedidos mais exigentes vão para a nuvem. A empresa quer inverter esse equilíbrio.

O truque da PrismML é simplificar drasticamente como os valores são armazenados dentro de um modelo. Um modelo padrão armazena cada valor usando 16 estados possíveis, como uma escala de medição muito precisa. A PrismML comprime cada valor até apenas um ou três estados possíveis. Pense como passar de uma régua finamente graduada para um simples interruptor ligado-desligado. Isto reduz o uso de memória drasticamente.

A empresa afirma que a compensação é uma pequena diminuição na precisão. A retenção de factos enfraquece primeiro. Competências como raciocínio e matemática resistem melhor.

Os analistas acolheram bem o conceito mas aconselharam cautela. Tarun Pathak da Counterpoint Research afirmou que o desempenho em milhões de consultas do mundo real, em milhares de combinações diferentes de dispositivos, é o verdadeiro teste. Phil Solis da IDC identificou a autonomia da bateria como a maior questão em aberto: um modelo utilizado continuamente em segundo plano poderia descarregar um telefone mesmo que necessite de menos memória.

Para os utilizadores comuns de iPhone, nada muda ainda. Trata-se de uma negociação comercial, não de uma atualização de software. Mas se a Apple e a PrismML chegarem a um acordo, futuras melhorias da Siri poderiam chegar mais depressa, funcionar offline e lidar com informações mais sensíveis sem que saiam nunca do seu bolso.

A PrismML está a lançar duas versões de modelos comprimidos gratuitamente, compatíveis com iPhones, MacBooks e PCs Windows com tecnologia Nvidia. O modelo Gemma do Google é o próximo na agenda da empresa.