Meta retirou a sua ferramenta de IA para imagens após utilizadores perceberem que estranhos podiam alterar as suas fotos sem permissão
Uma nova funcionalidade permitia marcar qualquer conta pública do Instagram e gerar imagens de IA a partir das suas fotos. Meta desativou-a em poucos dias, chamando o lançamento um erro.
Pontos principais
- Meta lançou o Muse Image, a sua primeira ferramenta de geração de imagens de IA, no Instagram na terça-feira antes de o retirar dias depois, após críticas públicas.
- A funcionalidade permitia aos utilizadores marcar qualquer conta pública do Instagram e utilizar as suas fotos para criar imagens geradas por IA, sem o conhecimento ou consentimento do proprietário da conta.
- As contas públicas do Instagram foram ativadas automaticamente, o que significava que os utilizadores tinham de desativar ativamente para proteger a sua imagem.
- O sindicato de Hollywood SAG-AFTRA chamou à reversão da Meta uma "vitória" e tinha anteriormente exortado todos os utilizadores do Instagram a tomar medidas de proteção.
- Meta afirmou que "não conseguiu acertar" e confirmou que a funcionalidade já não está disponível.
Meta, a empresa que é proprietária do Instagram, Facebook e WhatsApp, lançou o Muse Image na terça-feira. O Muse Image é uma nova ferramenta de geração de imagens de IA, software que pode criar ou alterar fotos com base em textos e imagens existentes, e foi integrado diretamente no chatbot de IA da Meta no Instagram.
O problema era o que podia fazer com as fotos de outras pessoas.
Qualquer utilizador podia marcar uma conta pública do Instagram dentro do chatbot da Meta e depois utilizar as imagens publicadas dessa conta como matéria-prima para gerar novas imagens criadas por IA. A pessoa cujas fotos estavam a ser utilizadas não precisava de concordar. Nem sequer precisava de saber.
As contas públicas foram ativadas automaticamente. Isto significava que milhões de utilizadores comuns, pessoas que gerem pequenos negócios, publicam conteúdo de fitness, ou simplesmente partilham fotografias de férias, foram incluídos automaticamente. Desativar exigia uma ação deliberada que a maioria dos utilizadores não sabia que precisava de tomar.
A reação foi rápida e intensa. A SAG-AFTRA, o sindicato de Hollywood que representa atores e artistas, chamou-lhe um "erro de cálculo absoluto do sentimento público" e exortou os seus membros e todos os utilizadores do Instagram a agir. A Privacy International, uma organização de direitos humanos com sede em Londres, disse à BBC Technology que a medida era "o sinal mais recente de que as empresas de IA veem as imagens e dados das pessoas como matéria-prima a ser explorada".
Meta retirou a funcionalidade e emitiu uma breve declaração: "Ouvimos o feedback. Não conseguimos acertar."
A empresa afirmou que a sua intenção era oferecer uma ferramenta criativa e dar às pessoas controlo sobre o seu conteúdo. O lançamento sugeria o oposto.
Devem os utilizadores do Instagram fazer algo agora?
A funcionalidade específica de marcação do Muse Image desapareceu, portanto não é necessária qualquer ação imediata para isso. Mas vale a pena verificar as definições de privacidade da sua conta do Instagram agora. Se a sua conta for pública, qualquer pessoa pode ver as suas publicações, e ferramentas futuras de IA, da Meta ou de outros, poderiam utilizá-las a menos que desative ou mude para uma conta privada.
Meta confirmou que mais funcionalidades de IA estão planeadas para WhatsApp, Facebook e Messenger, e uma ferramenta de vídeo de IA está em desenvolvimento. É improvável que esta história seja a última deste tipo.
A SAG-AFTRA chamou à remoção uma vitória. É uma pequena. A questão mais ampla, se as suas imagens publicadas publicamente podem ser utilizadas para treinar ou alimentar ferramentas de IA, continua em aberto.
