Google diz que as suas ferramentas ajudaram a criar 100 mil milhões de imagens de IA. Uma marca de água pode identificá-las, mas consegue impedir o dano?

Pontos-chave

• O Starling Lab, uma colaboração de investigação da Universidade de Stanford e da Universidade do Sul da Califórnia, estima que a humanidade demorou 149 anos a produzir 1,5 mil milhões de fotografias; a IA generativa igualou esse número em 18 meses.
• O Google anunciou na sua conferência de desenvolvimento I/O esta primavera que as suas ferramentas ajudaram a criar mais de 100 mil milhões de imagens e vídeos de IA em apenas alguns anos.
• O Google está a expandir as parcerias em torno do SynthID, a sua tecnologia para etiquetar conteúdo gerado por IA, para que mais plataformas a possam utilizar.
• O SynthID pode etiquetar conteúdo de IA na criação, mas a etiqueta não consegue impedir que imagens falsas se propaguem antes de alguém as verificar.

Coloquemos um número nisto: a humanidade tirou fotografias durante 149 anos antes de chegar a 1,5 mil milhões de imagens. A IA generativa, o software que cria fotos, vídeos e áudio a partir de uma instrução de texto, ultrapassou essa mesma marca em 18 meses. Estes números provêm do Starling Lab, uma colaboração de investigação gerida conjuntamente pela Universidade de Stanford e pela Universidade do Sul da Califórnia que estuda como os meios de comunicação digital são autenticados.

Depois chegou o Google com um número maior. Na sua conferência I/O esta primavera, a empresa afirmou que as suas ferramentas tinham sido utilizadas para produzir mais de 100 mil milhões de imagens e vídeos de IA em apenas alguns anos. Noticiado pela primeira vez pela Ars Technica AI, esse número abrange apenas os produtos do próprio Google. Dezenas de outras empresas também gerem geradores de imagens e vídeos.

O que é SynthID e como funciona?

O SynthID é a resposta do Google a uma pergunta simples: depois de existir uma imagem de IA, como é que alguém sabe que é falsa? A ferramenta incorpora uma marca de água invisível, um sinal oculto tecido nos píxeis ou dados de áudio, no conteúdo no momento em que os sistemas do Google o criam. Um detector separado pode depois ler esse sinal mais tarde.

A marca de água sobrevive a uma quantidade surpreendente de abuso. O corte, filtros de cor e reguardos de capturas de ecrã geralmente deixam-na intacta.

O Google usou o anúncio I/O para confirmar novas parcerias que difundiriam o SynthID para mais plataformas, o que significa que mais conteúdo de IA criado noutros locais poderia levar a etiqueta.

Então o problema está resolvido?

Nem de perto, nem de longe. Uma marca de água é uma etiqueta, não um bloqueio.

O conteúdo que tem uma etiqueta SynthID pode continuar a propagar-se nas redes sociais, aplicações de mensagens e feeds de notícias muito antes de qualquer detector o examinar. A maioria das pessoas comuns não tem forma de fazer uma verificação por si mesmas, e as plataformas não são obrigadas a exibir um aviso mesmo que pudessem.

Existe também o conteúdo que nunca é etiquetado. O SynthID apenas marca o que as ferramentas do próprio Google produzem. Qualquer imagem feita com um gerador rival, ou com software de código aberto mais antigo que qualquer pessoa pode descarregar e executar localmente, não tem nenhuma marca de água.

O que devem os leitores ter em atenção?

A tecnologia de etiquetagem é genuinamente útil e vale a pena ter. Mas o volume é a verdadeira história aqui. Quando as ferramentas de uma única empresa conseguem produzir 100 mil milhões de peças de meios sintéticos em dois anos, o risco realista não é um deepfake convincente; é um oceano de conteúdo falso plausível que ultrapassa a capacidade humana de o questionar.

Alguns hábitos práticos ajudam. Faça uma pesquisa inversa de imagem de qualquer foto que pareça concebida para provocar uma forte reação. Verifique se uma história aparece em mais de uma fonte credível antes de a partilhar. Se um vídeo mostra alguém a dizer algo chocante, procure uma transcrição de texto de um jornalista identificado antes de confiar nela.

A marca de água é um ponto de partida. O ceticismo continua a ser a melhor ferramenta.