Nessuno Ha Capito Come Prezzare l'IA. Questo È un Problema per Tutti

Punti chiave

• Goldman Sachs prevede che il consumo esterno di token crescerà 24 volte tra il 2026 e il 2030, raggiungendo 120 quadriliardi di token al mese.
• Microsoft avrebbe limitato l'uso da parte degli ingegneri di alcuni strumenti di codifica AI di terze parti per motivi di costo.
• Uber avrebbe consumato l'intero budget annuale di token per la codifica AI nel giro di pochi mesi nel 2025.
• Un token è un piccolo frammento matematico di testo che un modello di IA legge e scrive; ogni domanda che poni e ogni risposta che ricevi costa token.
• Gli esperti del settore affermano che non è ancora emerso un modello di prezzo standard per i servizi degli agenti AI.

Usare ChatGPT, Claude o Google Gemini gratuitamente sembra ottenere qualcosa dal nulla. In un certo senso, è così. Microsoft, Google, Anthropic e i loro concorrenti hanno investito centinaia di miliardi di dollari nella costruzione dei grandi modelli linguistici, la tecnologia dietro quei chatbot, che alimentano quei livelli gratuiti. Vogliono indietro quel denaro.

Esistono piani a pagamento e le funzioni premium sono bloccate dietro di essi. Ma il problema di prezzo più difficile si trova uno strato più in profondità, e sta causando difficoltà alle aziende di ogni dimensione.

Cos'è un token e perché costa denaro?

Un token è l'unità di base con cui lavora un modello di IA. Pensalo come un piccolo frammento di una parola o frase che il modello converte in matematica, elabora, quindi converte di nuovo in testo leggibile. Ogni prompt che digiti viene suddiviso in token. Anche ogni risposta che il modello invia costa token.

I prezzi dei token sono scesi notevolmente negli ultimi anni. Sembra una buona notizia, e in parte lo è. Il rovescio della medaglia, come ha riferito BBC Technology, è che l'utilizzo è esploso di pari passo. Goldman Sachs prevede che il consumo di token raggiungerà 120 quadriliardi al mese entro il 2030, 24 volte in più rispetto ai livelli del 2026, guidato principalmente dagli agenti di IA, programmi software che svolgono automaticamente attività multi-fase piuttosto che limitarsi a rispondere a una singola domanda.

Più agenti significano più token. Più token significano bollette più alte. E le bollette arrivano prima che la maggior parte delle aziende abbia idea di cosa le abbia causate.

Perché è così difficile da controllare?

La risposta breve: l'output dell'IA è imprevedibile. Fai la stessa domanda due volte e potresti ottenere due risposte diverse di lunghezza diversa, consumando quantità diverse di token. Incorpora questa imprevedibilità in un prodotto utilizzato da migliaia di clienti e i costi possono salire alle stelle velocemente.

Will Venters, Professore associato di Digital Innovation alla London School of Economics, lo dice chiaramente: "È un output non deterministico, quindi è un valore non deterministico".

Le aziende più piccole a volte aggirano questo utilizzando silenziosamente account personali a tariffa fissa dalle grandi piattaforme di IA. Oliver King-Smith, fondatore della società di ingegneria smartR AI, afferma che i fornitori probabilmente non amano questo, e non può durare. Una volta che gli azionisti iniziano a spingere per i profitti, prevede che le piattaforme "inizieranno a limitare".

Anche le grandi organizzazioni rimangono sorprese. Microsoft avrebbe limitato l'uso da parte dei suoi ingegneri di determinati strumenti di codifica di terze parti. Uber avrebbe consumato il suo budget annuale di token per la codifica AI nel giro di pochi mesi.

Cosa succede dopo?

Nessuno ha ancora una risposta pulita. Bill Peterson, direttore senior del marketing dei prodotti presso Sumo Logic, una società software che sta attualmente visualizzando in anteprima servizi di sicurezza AI, afferma che le conversazioni sui prezzi con i clienti sono in corso. Le opzioni sul tavolo includono l'aumento dei prezzi su tutta la linea, l'addebito per risultato o la vendita di bundle di incidenti. Ma qualsiasi struttura scelga un'azienda oggi può essere capovolta nel momento in cui un fornitore di IA cambia i suoi stessi tassi.

"Ti ritrovi con prezzi variabili, e sta cambiando ogni un paio di mesi", dice Peterson. "I clienti non amano questo. Non è così che chiunque crea un budget".

Per gli utenti ordinari, il rischio immediato è limitato: i piani gratuiti e a tariffa fissa fungono da limite. Per le piccole aziende che iniziano a incorporare l'IA nei propri prodotti o flussi di lavoro, il consiglio pratico dalle persone che vivono questo problema è semplice. Sii preciso con i tuoi prompt, come faresti con una lista della spesa dettagliata piuttosto che semplicemente dire "compra del cibo". Scegli il modello di IA più piccolo che effettivamente gestisce la tua attività. E imposta un avviso di spesa prima di aver bisogno di uno.

Domande comuni

Il mio account gratuito ChatGPT o Gemini avrà improvvisamente un costo?

I livelli gratuiti sono attualmente sovvenzionati dalle grandi piattaforme in competizione per gli utenti. Possono limitare le funzioni nel tempo, ma nessun grande fornitore ha annunciato piani per eliminare l'accesso gratuito completamente.

Cosa può fare una piccola azienda in questo momento per controllare i costi dell'IA?

Inizia monitorando l'utilizzo mensilmente, come faresti con una bolletta di archiviazione cloud. Scrivi prompt dettagliati in modo che l'IA non sprechi token indovinando cosa vuoi. Dove possibile, prova con un modello più economico o più piccolo prima di impegnarti con uno più costoso.