Uma Aposta de $400 Milhões em Que Chips de IA Mais Baratos Vão Vencer
Uma startup chamada General Compute acabou de emprestar $400 milhões para construir um serviço em nuvem em torno de um tipo menos caro de chip de IA. O negócio pode sinalizar um afastamento do hardware caro que domina a IA hoje.
Pontos principais
- General Compute levantou $400 milhões em financiamento de dívida da firma de investimento Upper90 em 2025.
- O empréstimo é acreditado ser o primeiro já garantido contra chips de inferência, o hardware especializado que executa modelos de IA acabados em vez de treinar novos.
- Os chips SambaNova SN50 da General Compute afirmam ter velocidades de inferência 16 vezes mais rápidas do que serviços em nuvem comparáveis baseados em GPU.
- O negócio segue o crescente interesse dos investidores em modelos de IA de código aberto como alternativa mais barata aos modelos de fronteira de laboratórios como OpenAI e Anthropic.
Uma pequena startup de IA acabou de emprestar $400 milhões, e a parte inusitada não é o número. É o que o credor aceitou como garantia.
General Compute, fundada pelo CEO Finn Puklowski e mal passada da fase inicial, garantiu o empréstimo da Upper90, uma firma de investimento focada em tecnologia. A garantia: chips de inferência. Estes são processadores especializados construídos para executar um modelo de IA acabado de forma rápida e barata, ao contrário dos chips muito mais caros utilizados para treinar um modelo do zero. Pense nos chips de treinamento como a fábrica que constrói um carro, e nos chips de inferência como o motor que realmente o faz andar.
O co-fundador da Upper90 Billy Libby disse à TechCrunch que acredita ser este o primeiro empréstimo alguma vez garantido especificamente por chips de inferência. Ele tem experiência nisto. Em 2021 a sua firma financiou compras de GPU para uma empresa de centro de dados chamada Crusoe, que ele considera o primeiro empréstimo contra o valor de chips avançados. Os bancos tradicionais não tocariam em chips como garantia na altura porque ninguém sabia com que rapidez perderiam valor. Desde então, a gigante da nuvem CoreWeave construiu um negócio inteiro em torno de empréstimos garantidos por chips e abriu o capital, e esse tipo de financiamento é agora comum.
Agora Libby pensa que a inferência é a próxima onda. "Nem toda a gente precisa de um supercomputador, mas precisa de inferência e IA," disse à TechCrunch.
General Compute está a construir o seu serviço em torno de chips da SambaNova, uma fabricante de chips apoiada pela Intel. Os chips SN50 são concebidos para ser eficientes em energia e dispensar os sistemas dispendiosos de arrefecimento a água que os GPUs de alta gama normalmente necessitam, o que significa que podem entrar em centros de dados mais padrão mais rapidamente. A empresa afirma 16 vezes mais rápido na inferência do que rivais em nuvem baseados em GPU.
O argumento mais amplo é o custo. Executar tarefas de IA em modelos de código aberto, software de IA cujo código subjacente é publicamente disponível, é muito mais barato do que pagar por consulta a um laboratório de fronteira. A nossa reportagem de 15 de julho sobre executivos de chips de IA a sinalizarem procura ilimitada notou que as empresas já estão a pressionar muito sobre o que realmente obtêm pelo seu dinheiro, que é exatamente a lacuna em que General Compute está a mirar. Startups como OpenRouter e Fireworks, que direcionam tráfego para modelos abertos, levantaram recentemente dinheiro a avaliações altas, e o K3 da Kimi, que cobrimos em 16 de julho, está agora a corresponder à OpenAI e Anthropic em benchmarks de codificação.
O que isto significa para pessoas e negócios que usam ferramentas de IA?
Preços mais baixos, potencialmente. Se as empresas de infraestrutura executarem modelos capazes em chips mais baratos e eficientes, os custos devem cair para todos a jusante: negócios que constroem aplicações, programadores que escrevem assistentes de código, qualquer pessoa pagando uma subscrição que depende de IA.
General Compute não está sozinha. TensorWave está a prosseguir uma estratégia semelhante construída em torno de chips AMD. O fio condutor é uma crença de que o domínio quase total da Nvidia na computação de IA se vai afrouxar conforme as alternativas amadurecerem.
Puklowski colocou-o de forma simples: "Este é o primeiro sinal de capital a organizar-se e da fragmentação do domínio monopolístico da Nvidia."
Se os chips SN50 entregam as suas especificações em escala é a pergunta que o próximo ano irá responder. O financiamento é inteligente; o hardware ainda tem de provar-se em produção.
