Google Remove a Sua Ferramenta de Edição de Imagens IA do Google Earth Após Utilizadores Falsificarem Zonas de Guerra e Cenas de Fronteira

Pontos principais

• Google lançou uma funcionalidade de edição de imagens IA dentro do Google Earth numa quinta-feira, depois desativou-a no dia seguinte após surgirem relatos de abuso.
• A ferramenta utilizava um modelo chamado Nano Banana 2 para alterar fotos reais de satélite com base em instruções digitadas, como adicionar um cratera de bomba perto de um hospital ou refugiados numa passagem de fronteira.
• O investigador Henk van Ess do Digital Digging testou a ferramenta e descobriu que nenhuma instrução foi bloqueada ou suavizada durante a sua sessão.
• Van Ess também demonstrou que um vídeo criado com a funcionalidade enganou a Hive, um serviço comercial de deteção de conteúdo de IA, apesar da marca de água do Google estar presente.
• Google afirma que as imagens geradas nunca foram visíveis para outros utilizadores do Google Earth, mas as capturas de ecrã partilhadas nas redes sociais não continham esse contexto.

O Google Earth sempre se sentiu como uma janela para o mundo real. Na quinta-feira, Google abriu essa janela um pouco demasiado.

A empresa lançou discretamente uma funcionalidade que permitia aos utilizadores digitar uma descrição e ver a IA repintar qualquer parcela de imagem de satélite. Quer ver como se parece uma quinta solar naquele campo vazio? Teoricamente está bem. Quer largar um cratera de bomba falsa junto a um hospital de Gaza, ou adicionar uma multidão de refugiados na fronteira mexicana? Também, descobriu-se, funcionou na prática.

Essa segunda categoria é o problema.

O que exatamente fazia a ferramenta?

Permitia a qualquer pessoa com Google Earth digitar uma instrução de texto e obter em troca uma versão alterada de imagem real de satélite. O modelo subjacente chamava-se Nano Banana 2. Google disse aos utilizadores que as imagens continham uma marca de água digital confirmando que foram geradas por IA, e afirmou que o sistema bloqueava "criação de imagens sobre tópicos prejudiciais."

Henk van Ess, um investigador no Digital Digging que acompanha como as ferramentas de IA podem ser utilizadas indevidamente, realizou os seus próprios testes e disse ao The Verge AI que essas salvaguardas simplesmente não se mantiveram. "Nada foi recusado, nada foi suavizado, e nada sugeriu que experimentasse uma instrução diferente," escreveu, partilhando exemplos incluindo cenas de crise humanitária fabricadas colocadas sobre coordenadas reais de mapa.

Depois foi mais longe. Van Ess pegou num vídeo produzido dentro da ferramenta e executou-o através da Hive, um serviço pago que empresas utilizam para detetar conteúdo gerado por IA. Hive não o detetou. A marca de água, por outras palavras, não tornou a imagem impossível de falsificar, e a indústria de deteção ainda não tinha acompanhado.

Porque é que Google a desativou tão rapidamente?

A velocidade importa aqui. Em 24 horas, Google emitiu uma segunda declaração admitindo o problema e removendo a funcionalidade. A empresa disse: "Sabemos que as pessoas confiam de forma única no Google Earth para uma visão fiável do mundo... também vimos pessoas a partilhar capturas de ecrã de imagens geradas que parecem violar as nossas políticas. Portanto, estamos a reverter esta funcionalidade enquanto trabalhamos na implementação de salvaguardas mais fortes."

Um detalhe crucial enterrado nessa declaração: as imagens falsificadas nunca apareceram dentro da vista principal do Google Earth que outros utilizadores veem. Existiam apenas numa sessão pessoal. Mas as capturas de ecrã removeram esse contexto no momento em que alguém as publicou online.

O que significa isto para pessoas comuns?

Para a maioria dos utilizadores, nada muda no dia a dia. O Google Earth parece o mesmo. O risco é menos sobre a sua própria experiência e mais sobre fotos que pode ver partilhadas nas redes sociais alegando mostrar um local real.

Se uma imagem de satélite aparecer em algum lugar surpreendente, mostrando danos ou multidões numa localização específica, vale a pena fazer uma pausa antes de a partilhar. As ferramentas de pesquisa de imagem inversa podem ajudar a verificar se uma imagem corresponde a fontes conhecidas e verificadas.

Google diz que trará de volta a funcionalidade uma vez que tenha construído "salvaguardas mais fortes." O que essas parecem será para ver.

Perguntas comuns

Posso continuar a usar o Google Earth normalmente?

Sim, completamente. Google removeu apenas a funcionalidade experimental de edição de imagens IA. A aplicação e website principal do Google Earth, incluindo vistas de satélite padrão e ao nível da rua, não foram afetados.

Uma marca de água significa que uma imagem de IA é segura para confiar?

Não por si só. O teste de Van Ess mostrou que um vídeo marcado com marca de água da ferramenta ainda enganou um serviço comercial de deteção de IA. As marcas de água são um sinal útil, mas não são uma garantia, e desaparecem no momento em que alguém faz uma captura de ecrã e recorta uma imagem.