L'AI diventa costosa e i dirigenti che la pagano iniziano a notarlo

Punti chiave

• Un sondaggio KPMG di oltre 2.000 dirigenti senior in 20 paesi ha rilevato che il 29 percento fatica a comprendere i costi operativi dei loro progetti AI.
• Quasi la metà di questi dirigenti ha dichiarato che stava cercando di rallentare o rimodellare i progetti AI quando i costi superano i benefici.
• L'analista di Gartner Nitish Tyagi prevede che entro il 2028, il costo per sviluppatore degli assistenti di codifica AI supererà lo stipendio medio globale di uno sviluppatore.
• Nei paesi con salari più bassi, come l'India, questo passaggio sta già accadendo oggi.
• I principali fornitori di AI tra cui Anthropic, OpenAI e GitHub hanno abbandonato i canoni mensili fissi per la fatturazione basata sull'utilizzo, dove le aziende pagano per "token", ovvero ogni piccolo frammento di testo che l'AI legge o scrive.

Le aziende si sono affrettate ad adottare strumenti AI negli ultimi due anni. Ora le fatture stanno arrivando e i numeri stanno causando un vero e proprio allarme nelle sale riunioni.

Un nuovo sondaggio di KPMG, la società globale di consulenza e servizi professionali, ha catturato l'atmosfera. L'azienda ha intervistato più di 2.000 dirigenti senior in 20 paesi e ha scoperto che il 29 percento di loro non riusciva a avere una chiara comprensione di quanto costasse effettivamente far funzionare i loro progetti AI man mano che crescevano. Le scoperte, riportate per primo da The Register AI, dipingono un quadro di aziende che si sono lanciate rapidamente e ora stanno cercando disperatamente di capire a cosa si sono impegnate.

La confusione ha una causa semplice. Per molto tempo, gli strumenti AI venivano forniti con abbonamenti mensili fissi. Si pagava una tariffa fissa, il team utilizzava gli strumenti quanto voleva e la fattura era prevedibile. Quel modello sta scomparendo. Anthropic, OpenAI e GitHub si sono tutti trasferiti alla fatturazione basata sull'utilizzo basata su token. Un token è una piccola unità di testo, all'incirca tre quarti di una parola, e ogni volta che un modello di AI legge un prompt o scrive una risposta, consuma token. Più il team utilizza gli strumenti, più alta è la fattura, e i costi possono salire senza preavviso.

Quasi la metà dei dirigenti intervistati ha dichiarato che stava considerando di "riprogrammare" i loro progetti, il che significa rallentare, ridurre l'ambito e cercare modelli più economici o più piccoli piuttosto che ricorrere sempre alle opzioni più potenti (e più costose).

Cosa significa questo per i lavoratori le cui aziende utilizzano strumenti AI?

Potrebbe effettivamente proteggere alcuni posti di lavoro. Nitish Tyagi di Gartner ha scoperto che nelle parti del mondo in cui gli stipendi degli sviluppatori sono più bassi, il costo di gestione di un assistente di codifica AI supera già quello che un sviluppatore umano guadagna. A livello mondiale, Tyagi prevede che questo passaggio arriverà entro il 2028. Quando uno strumento costa più della persona che era destinato a sostituire, il caso finanziario per sostituire quella persona cade.

La ricerca di Gartner ha anche scoperto qualcosa di controintuitivo su come questi strumenti funzionano. Utilizzare più token non produce automaticamente codice migliore. Gli sviluppatori che erano disciplinati e precisi nel modo in cui scrivevano i loro prompt hanno ottenuto risultati di qualità superiore e hanno speso meno denaro rispetto a coloro che utilizzavano l'AI liberamente e spesso.

Il quadro finanziario più ampio è difficile da ignorare. Un'analisi di investimento importante ha scoperto che l'industria dell'AI è sulla strada giusta per spendere 1,5 trilioni di dollari in infrastrutture di data center tra ora e il 2030. Questa spesa deve essere ripagata in qualche modo, ed è esattamente per questo che i prezzi si stanno spostando verso modelli basati sull'utilizzo che possono crescere con ogni cliente.

Per le aziende già dipendenti da questi strumenti, il passaggio non è semplice. Gli sviluppatori che hanno utilizzato assistenti AI quotidianamente per uno o due anni possono perdere la fluidità con le competenze sottostanti. Quella dipendenza dà ai fornitori di AI un vero potere di fissazione dei prezzi. Ma se si carica troppo, i clienti aziendali cercheranno alternative: modelli open source più economici, strumenti specializzati più piccoli, o semplicemente riassunzione del personale che hanno licenziato.