O que é IA de código aberto e como é diferente?

IA de código aberto significa que o modelo subjacente, e frequentemente a sua receita de treino, são publicados para qualquer pessoa inspecionar, copiar e modificar. O oposto é um modelo fechado ou proprietário, onde só pode aceder à IA através de uma API ou aplicação e o funcionamento interno permanece secreto. Pense nisso como um livro de receitas versus um restaurante que lhe vende apenas o prato acabado.

O que exatamente é "aberto" num modelo de IA de código aberto?

No mínimo, os pesos do modelo são divulgados publicamente. Os pesos são os milhões ou milhares de milhões de valores numéricos que o modelo aprendeu durante o treino, os números que o fazem realmente funcionar. Alguns projetos também divulgam o código de treino, o conjunto de dados e documentação.

Nem todos os projetos divulgam todas essas coisas ao mesmo tempo. Os modelos Llama da Meta, por exemplo, divulgam os pesos e permitem um uso amplo, mas os dados de treino completos não são publicados. A página de pesquisa da Meta para Llama descreve isto em detalhe. Os puristas do código aberto verdadeiro argumentariam que divulgar apenas os pesos é mais próximo de "pesos abertos" do que código aberto completo, mas na conversa diária os termos são utilizados como sinónimos.

Como é que a IA de código aberto é diferente da IA fechada como GPT-4?

Com um modelo fechado, envia o seu texto para o servidor de uma empresa, este pensa e envia uma resposta. Nunca vê o modelo em si. Os modelos abertos permitem-lhe descarregar o modelo inteiro e executá-lo no seu próprio computador ou servidor de cloud.

Esta única diferença tem grandes consequências. Pode fazer ajuste fino (especializar) o modelo nos seus próprios dados, auditá-lo quanto a enviesamento ou erros, e manter os seus dados totalmente no local, o que significa que nunca saem do seu edifício. Um hospital, por exemplo, poderia executar um modelo aberto localmente para que os registos de pacientes nunca toquem num servidor externo.

Quais são os verdadeiros benefícios?

Quatro coisas destacam-se. Em primeiro lugar, custo: uma vez que tenha o modelo, a inferência (executá-lo) pode ser muito mais barata do que pagar por taxas de API por consulta. Em segundo lugar, personalização: pode reformular o comportamento do modelo de formas que uma API comercial não permite. Em terceiro lugar, transparência: os investigadores podem estudar como o modelo chega às suas respostas, o que é enormemente importante para a investigação de segurança. A investigação de alinhamento da Anthropic realça por que é valioso conseguir inspecionar as entranhas do modelo. Em quarto lugar, sem bloqueio do fornecedor: não depende de uma empresa permanecer solvente ou manter os preços estáveis.

Quais são as desvantagens e riscos?

Os modelos abertos podem ser usados indevidamente mais facilmente, porque qualquer pessoa pode remover as proteções de segurança que uma empresa normalmente aplicaria. Também requerem habilidades técnicas para funcionar bem, e é responsável por os manter atualizados e seguros. As organizações mais pequenas podem considerar o fardo da infraestrutura pesado.

O Quadro de Gestão de Riscos de IA do NIST nota que a transparência funciona nos dois sentidos: ajuda os defensores a compreender um sistema, mas também ajuda os atacantes a compreender como o abusar.

IA de código aberto versus fechada: uma comparação rápida

Funcionalidade	Código aberto / pesos abertos	Fechado / proprietário
Ver as entranhas do modelo	Sim	Não
Executar no seu próprio hardware	Sim	Não
Personalizar e fazer ajuste fino	Sim, livremente	Limitado ou não
Os dados permanecem nos seus servidores	Sim	Normalmente não
Esforço técnico inicial	Alto	Baixo
Modelo de custo típico	Custos de infraestrutura	Taxas por consulta

Um exemplo real de IA de código aberto em ação

Uma startup de tecnologia jurídica quer construir um assistente de revisão de documentos. Usar uma API fechada significa que cada contrato que processa passa pelos servidores de outra pessoa, o que levanta problemas de confidencialidade do cliente. Em vez disso, a equipa descarrega um modelo de pesos abertos, faz ajuste fino na linguagem jurídica e executa-o dentro do seu próprio ambiente seguro. Os clientes nunca precisam saber, e nenhum dado sai do controlo da empresa.

O que a licença realmente permite?

É aqui que as coisas ficam subtis. "Código aberto" nem sempre significa "faça o que quiser". Alguns modelos têm licenças que restringem o uso comercial ou exigem que abra o código de quaisquer modificações que faça. A definição da Open Source Initiative requer, entre outras coisas, que a licença não restrinja ninguém de vender ou distribuir o software. Muitas licenças populares de modelos de IA não atingem esse limite, razão pela qual a frase "pesos abertos" está a tornar-se mais precisa.

Leia sempre a licença antes de construir um produto em cima de um modelo.

Ressalva de privacidade, em palavras claras

Executar um modelo aberto localmente é na verdade a opção mais privada disponível, porque os seus prompts nunca saem da sua máquina. O detalhe é que descarregar ficheiros de modelo grandes (frequentemente 10 a 70 gigabytes) e executá-los requer hardware decente. Os computadores portáteis de consumo conseguem lidar com modelos mais pequenos; os grandes precisam de uma GPU potente ou um servidor de cloud alugado.

Perguntas comuns

A IA de código aberto é gratuita para usar?

Descarregar o modelo é normalmente gratuito, mas ainda paga pela eletricidade e hardware (ou computação em cloud) necessários para o executar. Licenças comerciais em alguns modelos também podem exigir uma taxa para uso comercial.

Posso confiar numa IA de código aberto para ser segura?

Os modelos abertos podem ser auditados por qualquer pessoa, o que ajuda a detetar problemas, mas também podem ter as proteções de segurança removidas por qualquer pessoa. A segurança depende muito de como cuidadosamente implementa e configura o modelo para o seu caso de uso específico.