O que é um modelo de linguagem de grande escala e como funciona?

Um modelo de linguagem de grande escala (LLM) é um tipo de IA treinada em quantidades vastas de texto para que consiga ler, escrever, resumir e responder perguntas em linguagem natural. Funciona aprendendo padrões em biliões de palavras e depois prevendo a palavra, frase ou ideia seguinte mais útil. Pense nela como um autocompleto que foi à universidade.

O que significa realmente "grande"?

Grande refere-se a duas coisas ao mesmo tempo: o tamanho dos dados de treinamento e o número de "parâmetros" dentro do modelo. Os parâmetros são as configurações internas ajustáveis, um pouco como pequenos controlos, que o modelo calibra durante o treinamento para ficar melhor em prever texto. Estima-se que o GPT-4 tem centenas de biliões de parâmetros, razão pela qual executar estes modelos requer uma potência de computação considerável.

Mais parâmetros nem sempre significam um modelo mais inteligente. Os investigadores descobriram que conjuntos de dados cuidadosamente selecionados e mais pequenos podem produzir modelos surpreendentemente capazes com uma fração do tamanho. A etiqueta "grande" está a tornar-se mais uma convenção do que uma regra rigorosa.

Como funciona realmente o treinamento?

O treinamento é o processo de mostrar ao modelo uma quantidade enorme de texto e levá-lo a adivinhar repetidamente a palavra seguinte, depois ajustando esses controlos internos sempre que erra. Faça isso biliões de vezes e o modelo começa a absorver gramática, factos, estilos de raciocínio e até tom.

O método dominante por trás dos LLMs modernos é chamado arquitetura transformadora, introduzido num artigo marcante de 2017. Os transformadores usam um mecanismo chamado "atenção" que permite ao modelo pesar o quanto cada palavra numa frase é relevante para todas as outras palavras, para que compreenda o contexto em vez de apenas a ordem das palavras.

Após esse treinamento inicial, a maioria dos modelos comerciais passa por uma segunda etapa chamada RLHF (aprendizagem de reforço a partir de feedback humano). Avaliadores humanos classificam as respostas do modelo, e essas classificações ensinam ao modelo como ser mais útil e menos prejudicial.

O que um LLM pode realmente fazer?

Na prática, um LLM bem treinado pode redigir e-mails, explicar jargão médico, escrever código, traduzir idiomas e resumir documentos longos. Um exemplo real: uma clínica de medicina geral no Reino Unido usou um LLM para redigir cartas de acompanhamento de doentes, reduzindo o tempo administrativo aproximadamente pela metade, porque o modelo conseguia transformar os pontos-chave de um médico em prosa completa e legível em segundos.

O que não consegue fazer com fiabilidade é raciocinar a partir dos primeiros princípios, aceder a informações em direto (a menos que tenha uma ferramenta para pesquisar na web) ou garantir precisão factual. Os LLMs por vezes "alucinam", o que significa que afirmam com confiança coisas que são simplesmente erradas. A investigação da Anthropic sobre o comportamento do modelo aborda por que isto acontece e como os criadores tentam reduzir isso.

Como é que um LLM é diferente de um motor de busca?

Um motor de busca encontra e classifica páginas que já existem. Um LLM gera texto novo do zero, baseando-se em padrões que absorveu durante o treinamento. Uma busca oferece-lhe uma lista de fontes; um LLM oferece-lhe uma resposta sintetizada sem garantia de que aponta para a evidência original.

Os dois estão cada vez mais combinados. Ferramentas como geração aumentada por recuperação (RAG) permitem que um LLM puxe documentos em direto antes de responder, misturando o melhor de ambas as abordagens.

Quanto custa usar uma?

Modelo / serviço	Nível gratuito	Nível pago começa em
ChatGPT (OpenAI)	Sim, GPT-4o mini	~20€/mês para Plus
Claude (Anthropic)	Sim, Claude 3 Haiku	~20€/mês para Pro
Gemini (Google)	Sim, Gemini 1.5 Flash	~20€/mês para Advanced
Acesso por API (construir o seu próprio)	Créditos de utilização no registo	Pague por token (fração de cêntimo)

Para a maioria dos utilizadores ocasionais, os níveis gratuitos cobrem tarefas quotidianas. Os utilizadores pesados ou programadores que pagam por token (um token é aproximadamente três a quatro caracteres de texto) podem acumular custos rapidamente em documentos longos.

Há armadilhas de privacidade que deva saber?

Sim, e são importantes. Quando digita um pedido num LLM comercial, esse texto é enviado para os servidores do fornecedor. Muitos fornecedores declaram nos seus termos que podem usar as suas conversas para melhorar modelos futuros, a menos que opte ativamente por sair. Os controlos de privacidade da OpenAI permitem desativar o uso de dados de treinamento, mas a configuração não está ativada por padrão para todos os utilizadores.

Não cole dados pessoais, registos de doentes, detalhes financeiros ou informações confidenciais de negócios num LLM público a menos que tenha verificado cuidadosamente os termos de processamento de dados do fornecedor.

Perguntas comuns

Um modelo de linguagem de grande escala é o mesmo que inteligência artificial geral?

Não. Um LLM é um sistema especializado treinado em previsão de texto. A inteligência artificial geral (AGI) significaria um sistema que consegue aprender e raciocinar em qualquer domínio da forma como um ser humano consegue, algo que os investigadores consideram um problema aberto e não resolvido.

Um LLM consegue aprender novos factos depois de ser lançado?

Não por si só. Um LLM padrão tem uma "data limite de conhecimento", a data em que os seus dados de treinamento terminaram, e não se atualiza quando acontecem novos eventos. Alguns sistemas adicionam ferramentas de busca em direto no topo para contornar este limite.

Por que é que um LLM por vezes inventa coisas?

Porque é fundamentalmente um motor de conclusão de padrões, não um verificador de factos. Se o padrão de uma frase aponta fortemente para uma resposta plausível, o modelo produz-a, mesmo quando não existe evidência fiável. A investigação sobre este problema de alucinação está ativa em laboratórios principais.