L'IA impara a gestire il proprio budget di parole prima di iniziare a scrivere

Punti chiave

• Apple ML Research ha pubblicato il Length Value Model (LenVM), un framework che predice quanti token l'IA dovrà ancora generare a ogni singolo passo del suo output.
• La tecnica tratta ogni token generato, dove un token è il più piccolo pezzo di testo che l'IA elabora (circa tre quarti di una parola), come se avesse un piccolo costo negativo, spingendo il modello verso la concisione.
• I sistemi di IA attuali gestiscono la lunghezza dell'output solo a un livello grezzo, a livello di sequenza intera; LenVM funziona token per token, offrendo un controllo molto più fine.
• I ricercatori inquadrano il controllo della lunghezza come un problema di stima del valore, prendendo in prestito un metodo dall'apprendimento per rinforzo, un tipo di addestramento che premia o penalizza l'IA per il suo comportamento.

Ogni volta che un chatbot risponde alla tua domanda, genera testo un piccolo pezzo alla volta. Ogni pezzo si chiama token. Più token significa più tempo, più elettricità e costi più alti per chi gestisce il servizio. Per gli utenti, spesso significa solo aspettare più a lungo una risposta che avrebbe potuto essere più breve.

I ricercatori sanno da tempo che questo è un problema. Le loro soluzioni, fino ad ora, sono state rozze. Potrebbero dire a un modello "mantieni la tua risposta sotto le 200 parole" e sperare per il meglio. Il modello non ha una vera percezione di quante parole gli rimangono, o di quanto sta "spendendo" con ogni parola che aggiunge.

LenVM cambia le cose. Il sistema pubblicato da Apple ML Research assegna al modello una percezione in tempo reale della lunghezza di generazione rimanente a ogni passo di decodifica, nel momento in cui sceglie ogni nuovo token. È come un tassametro che scatta con ogni decimo di miglio, piuttosto che una tariffa fissa quotata all'inizio del viaggio.

Il trucco sta in come insegnano al modello a preoccuparsene. I ricercatori hanno assegnato una penalità costante e piccola a ogni token generato. Poiché il modello è addestrato a massimizzare la sua ricompensa, impara da solo che le parole superflue sono costose. Diventa, in effetti, auto-editing.

Questo prende in prestito da un ramo dell'addestramento dell'IA chiamato apprendimento per rinforzo, dove un modello guadagna punti per il buon comportamento e li perde per quello cattivo. Qui, "cattivo" significa semplicemente verboso.

Più breve significa sempre peggio?

No, e questo è il punto. I risultati del team mostrano che il modello riduce la lunghezza sui compiti che non richiedono risposte lunghe, mantenendo intatta la qualità su quelli che genuinamente richiedono profondità. L'obiettivo non è una risposta più breve a qualsiasi costo; è una risposta della giusta lunghezza.

Per gli utenti ordinari questo conta in due modi. Primo, risposte più rapide negli strumenti di chat quotidiani. Secondo, costi di gestione inferiori che i fornitori potrebbero trasferire piuttosto che assorbire.

Per l'industria dell'IA apre un percorso verso modelli che gestiscono il proprio calcolo, piuttosto che essere limitati manualmente da un ingegnere che imposta un limite rigido.