Un'IA ha imparato a scrivere codice migliore da sola, senza insegnanti

Punti chiave

• Qwen3-30B-Instruct, un grande modello di IA realizzato dall'azienda tecnologica cinese Alibaba, ha aumentato il suo punteggio in un test di codifica standard dal 42,4% al 55,3% utilizzando solo i suoi stessi output come materiale di addestramento.
• La tecnica, chiamata auto-distillazione semplice, non richiede feedback umano, nessun modello insegnante separato e nessun apprendimento per rinforzo (un metodo di addestramento basato su ricompense spesso utilizzato per affinare il comportamento dell'IA).
• I guadagni sono stati più significativi sui problemi di codifica più difficili, non su quelli facili.
• Il metodo ha funzionato su sei diverse dimensioni di modello e due famiglie di modelli, Qwen e Llama, suggerendo che non si tratta di un risultato isolato.

I ricercatori di IA hanno passato anni a costruire sistemi elaborati per rendere i modelli più intelligenti: valutatori umani che forniscono feedback, modelli "insegnanti" separati che guidano i più deboli, segnali di ricompensa complessi che orientano il comportamento nella giusta direzione. Un nuovo articolo di Apple ML Research suggerisce che potrebbe non essere necessario nulla di tutto questo, almeno per la codifica.

La tecnica è chiamata auto-distillazione semplice. Ecco come funziona. Prendi un modello di IA esistente e chiedigli di generare molte soluzioni candidate a problemi di codifica, variando quanto creative o casuali siano le sue risposte. Quindi esegui il fine-tuning, ovvero l'addestramento su un set di dati curato, dello stesso modello su quelle stesse risposte. Nessun giudice esterno. Nessun dato aggiuntivo. Il modello, in effetti, studia il suo lavoro migliore.

Il risultato? Qwen3-30B-Instruct, uno dei modelli principali abilitati per la codifica di Alibaba, è passato dal 42,4% al 55,3% su LiveCodeBench v6, un benchmark ampiamente utilizzato che testa l'IA su problemi reali di competizioni di programmazione. Si tratta di un guadagno di 12,9 punti percentuali da quella che i ricercatori definiscono una procedura imbarazzantemente semplice.

La parola "imbarazzantemente" è deliberata e onesta. Segnala che il metodo richiede quasi nessun macchinario speciale, il tipo di cosa che rende i ricercatori esperti tranquillamente infastiditi di non averlo provato prima.

Due dettagli rendono questo più di una semplice curiosità nei benchmark. In primo luogo, i miglioramenti si sono concentrati sui problemi più difficili. Le domande facili si sono appena mosse. Questo è importante perché i problemi difficili sono dove gli strumenti di codifica dell'IA ancora regolarmente falliscono gli utenti umani. In secondo luogo, il trucco ha resistito su sei modelli che vanno da 4 miliardi a 30 miliardi di parametri (una misura approssimativa della dimensione e della capacità di un modello) che coprono sia le famiglie di modelli Qwen che Llama. La generalizzazione ampia su architetture diverse è un segno decente che un risultato è reale piuttosto che attentamente orchestrato.

Questo significa che l'IA sostituirà i programmatori?

No. Un punteggio del 55,3% su un benchmark di programmazione competitiva significa comunque che il modello fallisce quasi metà delle volte sulle domande più difficili. L'auto-distillazione è una scoperta di efficienza dell'addestramento, non un elemento che rompe il limite delle capacità.

Per gli utenti quotidiani degli assistenti di codifica IA, gli strumenti costruiti su versioni migliorate di questi modelli possono gestire bug più complicati e attività multi-fase in modo più affidabile. Ma gli assistenti sottostanti hanno ancora bisogno di revisione umana, in particolare per il codice di produzione dove gli errori hanno conseguenze reali.

Per la comunità di ricerca, la scoperta è un utile promemoria. Prima di ricorrere a infrastrutture costose, a volte il modello che già possiedi contiene il segnale di cui hai bisogno.