IA Aprende a Orçamentar as Suas Próprias Palavras Antes de Começar a Escrever

Pontos-chave

• Apple ML Research publicou o Length Value Model (LenVM), uma estrutura que prevê quantos tokens uma IA ainda precisará gerar em cada fase da sua produção.
• A técnica trata cada token gerado, sendo um token a menor unidade de texto que uma IA processa (aproximadamente três quartos de uma palavra), como tendo um pequeno custo negativo, empurrando o modelo para ser conciso.
• Os sistemas de IA actuais gerem o comprimento da saída apenas a um nível grosseiro, ao nível de toda a sequência; o LenVM funciona token por token, oferecendo muito mais controlo fino.
• Os investigadores enquadram o controlo de comprimento como um problema de estimação de valor, utilizando um método da aprendizagem por reforço, treino que recompensa ou penaliza a IA pelo seu comportamento.

Sempre que um chatbot responde à sua pergunta, gera texto uma pequena unidade de cada vez. Cada unidade chama-se token. Mais tokens significam mais tempo, mais electricidade e custos mais elevados para quem executa o serviço. Para os utilizadores, frequentemente significa apenas esperar mais tempo por uma resposta que poderia ter sido mais curta.

Os investigadores sabem que isto é um problema. As suas soluções, até agora, têm sido grosseiras. Poderiam dizer a um modelo "mantenha a sua resposta com menos de 200 palavras" e esperar o melhor. O modelo não tem uma sensação real de quantas palavras lhe restam, ou quanto está a "gastar" com cada palavra que adiciona.

O LenVM muda isto. O sistema publicado pela Apple ML Research atribui ao modelo uma noção contínua do comprimento de geração restante em cada passo de descodificação, no momento em que selecciona cada novo token. Pense nisto como um taxímetro que avança com cada décima de milha, em vez de uma tarifa fixa indicada no início da viagem.

O truque é como ensinam o modelo a importar-se. Os investigadores atribuíram uma pequena penalidade constante a cada token gerado. Porque o modelo é treinado para maximizar a sua recompensa, aprende por si próprio que as palavras desnecessárias são dispendiosas. Torna-se, essencialmente, auto-edição.

Isto aproveita um ramo do treino de IA chamado aprendizagem por reforço, onde um modelo ganha pontos por bom comportamento e perde-os por comportamento mau. Aqui, "mau" significa simplesmente verboso.

Mais curto significa sempre pior?

Não, e esse é o ponto. Os resultados da equipa mostram que o modelo reduz o comprimento em tarefas que não precisam de respostas longas, mantendo a qualidade intacta em tarefas que genuinamente requerem profundidade. O objectivo não é uma resposta mais curta a qualquer custo; é a resposta com o comprimento certo.

Para utilizadores comuns isto importa de duas formas. Primeiro, respostas mais rápidas em ferramentas de chat do dia a dia. Segundo, custos de execução mais baixos que os fornecedores poderiam passar em frente em vez de absorver.

Para a indústria de IA, abre um caminho para modelos que orçamentam a sua própria computação, em vez de serem limitados manualmente por um engenheiro que define um limite rígido.