Uma IA Ensinou-se a Si Própria a Escrever Código Melhor, Sem Necessidade de Professor

Pontos-chave

• Qwen3-30B-Instruct, um grande modelo de IA criado pela empresa tecnológica chinesa Alibaba, aumentou a sua pontuação num teste de programação padrão de 42,4% para 55,3% usando apenas os seus próprios resultados como material de treino.
• A técnica, chamada auto-destilação simples, não requer feedback humano, nenhum modelo de professor separado, e nenhuma aprendizagem por reforço (um método de treino baseado em recompensas frequentemente utilizado para aperfeiçoar o comportamento de IA).
• Os ganhos foram maiores nos problemas de programação mais difíceis, não nos mais fáceis.
• O método funcionou em seis tamanhos de modelo diferentes e duas famílias de modelos, Qwen e Llama, sugerindo que não se trata de um resultado único.

Pesquisadores de IA gastaram anos a construir sistemas elaborados para tornar os modelos mais inteligentes: avaliadores humanos dando feedback, modelos "professor" separados guiando modelos mais fracos, sinais de recompensa complexos orientando o comportamento na direção certa. Um novo artigo da Apple ML Research sugere que talvez não necessite de nada disto, pelo menos para programação.

A técnica chama-se auto-destilação simples. Eis como funciona. Você pega num modelo de IA existente e pede-lhe que gere muitas soluções candidatas para problemas de programação, variando o quão criativas ou aleatórias as suas respostas são. Depois, faz ajuste fino, ou seja, retreina num conjunto de dados curado, o mesmo modelo nessas mesmas respostas. Nenhum juiz externo. Nenhum dado adicional. O modelo, em essência, estuda o seu melhor trabalho.

O resultado? Qwen3-30B-Instruct, um dos principais modelos capazes de codificação da Alibaba, saltou de 42,4% para 55,3% no LiveCodeBench v6, um benchmark amplamente utilizado que testa a IA em problemas reais de concursos de programação. Este é um ganho de 12,9 pontos percentuais a partir do que os pesquisadores chamam um procedimento envergonhadoramente simples.

A palavra "envergonhadoramente" é deliberada e honesta. Indica que o método requer quase nenhuma maquinaria especial, o tipo de coisa que deixa os pesquisadores experientes discretamente chateados por não o terem tentado mais cedo.

Dois detalhes tornam isto mais do que uma curiosidade de benchmark. Primeiro, os melhoramentos concentraram-se em problemas mais difíceis. As questões fáceis mal se moveram. Isto é importante porque os problemas difíceis são onde as ferramentas de programação de IA ainda falham regularmente aos utilizadores humanos. Segundo, o truque manteve-se em seis modelos variando de 4 mil milhões a 30 mil milhões de parâmetros (uma medida aproximada do tamanho e capacidade de um modelo) abrangendo ambas as famílias de modelos Qwen e Llama. A generalização ampla em diferentes arquiteturas é um sinal decente de que uma descoberta é real em vez de cuidadosamente encenada.

Isto significa que a IA substituirá os programadores?

Não. Uma pontuação de 55,3% num benchmark de programação competitiva ainda significa que o modelo falha em quase metade das vezes nas questões mais difíceis. A auto-destilação é uma descoberta de eficiência de treino, não um quebra-limite de capacidade.

Para utilizadores comuns de assistentes de programação de IA, as ferramentas construídas em versões melhoradas destes modelos podem lidar com problemas mais complicados e tarefas com múltiplos passos de forma mais fiável. Mas os assistentes subjacentes ainda necessitam de revisão humana, particularmente para código em produção onde os erros têm consequências reais.

Para a comunidade de pesquisa, a descoberta é um lembrete útil. Antes de recorrer a infraestrutura dispendiosa, por vezes o modelo que já tem contém o sinal que necessita.