Che cos'è un modello linguistico di grandi dimensioni e come funziona?

Un modello linguistico di grandi dimensioni (LLM) è un tipo di AI addestrato su enormi quantità di testo in grado di leggere, scrivere, riassumere e rispondere a domande in linguaggio naturale. Funziona imparando modelli attraverso miliardi di parole, per poi prevedere la parola, la frase o l'idea più utile successiva. Pensalo come l'autocompletamento che ha frequentato l'università.

"Grande" cosa significa davvero?

"Grande" si riferisce a due cose contemporaneamente: la dimensione dei dati di addestramento e il numero di "parametri" all'interno del modello. I parametri sono le impostazioni interne regolabili, un po' come piccoli cursori, che il modello regola durante l'addestramento per migliorare nella previsione del testo. GPT-4 è stimato avere centinaia di miliardi di parametri, motivo per cui l'esecuzione di questi modelli richiede una potenza di calcolo seria.

Più parametri non significano sempre un modello più intelligente. I ricercatori hanno scoperto che dataset accuratamente curati e più piccoli possono produrre modelli sorprendentemente capaci a una frazione della dimensione. L'etichetta "grande" sta diventando una convenzione più che una regola rigorosa.

Come funziona davvero l'addestramento?

L'addestramento è il processo di mostrare al modello un'enorme quantità di testo e fargli indovinare ripetutamente la parola successiva, quindi regolare quei cursori interni ogni volta che sbaglia. Fallo miliardi di volte e il modello inizia a catturare la grammatica, i fatti, gli stili di ragionamento e persino il tono.

Il metodo dominante dietro gli LLM moderni si chiama architettura transformer, introdotta in un articolo storico del 2017. I transformer utilizzano un meccanismo chiamato "attenzione" che permette al modello di valutare quanto sia rilevante ogni parola in una frase rispetto a tutte le altre parole, così comprende il contesto piuttosto che solo l'ordine delle parole.

Dopo quel primo addestramento, la maggior parte dei modelli commerciali passa attraverso un secondo step chiamato RLHF (apprendimento per rinforzo dal feedback umano). I valutatori umani assegnano un punteggio alle risposte del modello, e quei punteggi insegnano al modello ad essere più utile e meno dannoso.

Cosa può davvero fare un LLM?

In pratica, un LLM ben addestrato può redigere email, spiegare la terminologia medica, scrivere codice, tradurre lingue e riassumere lunghi documenti. Un esempio della vita reale: uno studio medico nel Regno Unito ha utilizzato un LLM per redigere lettere di follow-up ai pazienti, riducendo il tempo amministrativo di circa la metà, perché il modello poteva trasformare i punti elenco di un medico in prosa completa e leggibile in secondi.

Quello che non può fare in modo affidabile è ragionare dai principi primi, accedere a informazioni in tempo reale (a meno che non gli sia fornito uno strumento per cercare sul web) o garantire l'accuratezza fattuale. Gli LLM a volte "allucinano", il che significa che affermano con sicurezza cose che sono semplicemente sbagliate. La ricerca di Anthropic sul comportamento dei modelli spiega perché accade e come i creatori cercano di ridurlo.

In che modo un LLM è diverso da un motore di ricerca?

Un motore di ricerca trova e classifica pagine che già esistono. Un LLM genera nuovo testo da zero, attingendo ai modelli che ha assorbito durante l'addestramento. La ricerca ti dà un elenco di fonti; un LLM ti dà una risposta sintetizzata senza garanzia che punti alla prova originale.

I due sono sempre più combinati. Strumenti come la generazione aumentata da recupero (RAG) permettono a un LLM di acquisire documenti live prima di rispondere, mescolando il meglio di entrambi gli approcci.

Quanto costa usarne uno?

Modello / servizio	Versione gratuita	Versione a pagamento inizia da
ChatGPT (OpenAI)	Sì, GPT-4o mini	~$20/mese per Plus
Claude (Anthropic)	Sì, Claude 3 Haiku	~$20/mese per Pro
Gemini (Google)	Sì, Gemini 1.5 Flash	~$20/mese per Advanced
Accesso API (crea il tuo)	Crediti di utilizzo alla registrazione	Pagamento per token (frazione di centesimo)

Per la maggior parte degli utenti occasionali, le versioni gratuite coprono le attività quotidiane. Gli utenti pesanti o gli sviluppatori che pagano per token (un token è circa tre o quattro caratteri di testo) possono accumulare costi rapidamente su documenti lunghi.

Ci sono insidie sulla privacy che dovrei conoscere?

Sì, e sono importanti. Quando digiti un prompt in un LLM commerciale, quel testo viene inviato ai server del provider. Molti provider affermano nei loro termini che possono utilizzare le tue conversazioni per migliorare i modelli futuri a meno che tu non rinunci attivamente. I controlli della privacy di OpenAI ti permettono di disattivare l'uso dei dati di addestramento, ma l'impostazione non è attiva per impostazione predefinita per tutti gli utenti.

Non incollare dati personali, cartelle cliniche, dettagli finanziari o informazioni commerciali riservate in un LLM pubblico a meno che non abbia controllato attentamente i termini di elaborazione dei dati del provider.

Domande comuni

Un modello linguistico di grandi dimensioni è la stessa cosa dell'intelligenza artificiale generale?

No. Un LLM è un sistema specializzato addestrato sulla previsione del testo. L'intelligenza artificiale generale (AGI) significherebbe un sistema che può imparare e ragionare in qualsiasi dominio come farebbe un essere umano, qualcosa che i ricercatori considerano un problema aperto e irrisolto.

Un LLM può imparare nuovi fatti dopo il rilascio?

No da solo. Un LLM standard ha una "data limite di conoscenza", la data in cui i suoi dati di addestramento si sono conclusi, e non si aggiorna quando accadono nuovi eventi. Alcuni sistemi aggiungono strumenti di ricerca live in cima per aggirare questo limite.

Perché un LLM a volte inventa cose?

Perché è fondamentalmente un motore di completamento di modelli, non un verificatore di fatti. Se il modello di una frase punta fortemente verso una risposta plausibile, il modello la produce, anche quando non esistono prove affidabili. La ricerca su questo problema di allucinazione è attiva nei principali laboratori.