Meta a retiré son outil de génération d'images IA après que les utilisateurs aient réalisé que des inconnus pouvaient remixer leurs photos sans demander la permission

Points clés

• Meta a lancé Muse Image, son premier outil de génération d'images IA, sur Instagram mardi avant de le retirer quelques jours plus tard après un tollé public.
• La fonctionnalité permettait aux utilisateurs d'identifier n'importe quel compte Instagram public et d'utiliser ses photos pour créer des images générées par IA, sans la connaissance ni le consentement du propriétaire du compte.
• Les comptes Instagram publics étaient activés par défaut, ce qui signifiait que les utilisateurs devaient se désinscrire activement pour protéger leur propre image.
• Le syndicat hollywoodien SAG-AFTRA a qualifié le revirement de Meta de « victoire » et avait précédemment exhorté tous les utilisateurs d'Instagram à prendre des mesures de protection.
• Meta a déclaré qu'il « avait raté la cible » et a confirmé que la fonctionnalité n'est plus disponible.

Meta, la société propriétaire d'Instagram, Facebook et WhatsApp, a lancé Muse Image mardi. Muse Image est un nouvel outil de génération d'images IA, un logiciel capable de créer ou de modifier des photos basé sur des demandes textuelles et des images existantes, et il a été intégré directement dans le chatbot IA de Meta sur Instagram.

Le problème résidait dans ce qu'il pouvait faire avec les photos d'autres personnes.

Tout utilisateur pouvait identifier un compte Instagram public dans le chatbot de Meta, puis utiliser les images publiées par ce compte comme matière première pour générer de nouvelles images créées par IA. La personne dont les photos étaient utilisées n'avait pas besoin d'accepter. Elle n'avait même pas besoin de le savoir.

Les comptes publics étaient activés par défaut. Cela signifiait que des millions d'utilisateurs ordinaires, des personnes qui gèrent de petites entreprises, publient du contenu de remise en forme ou simplement partagent des photos de vacances, étaient inclus automatiquement. Se désinscrire nécessitait une action délibérée dont la plupart des utilisateurs ne savaient même pas qu'ils devaient la prendre.

Le tollé a été rapide et bruyant. SAG-AFTRA, le syndicat hollywoodien qui représente les acteurs et les artistes, l'a qualifié de « grave mauvaise évaluation du sentiment public » et a exhorté ses membres et tous les utilisateurs d'Instagram à agir. Privacy International, une organisation caritative pour les droits humains basée à Londres, a déclaré à BBC Technology que cette démarche était « le dernier signe que les entreprises d'IA considèrent les images et les données des personnes comme de la matière première à exploiter ».

Meta a retiré la fonctionnalité et a publié une brève déclaration : « Nous avons écouté vos commentaires. Nous avons raté la cible. »

La société a déclaré que son intention était d'offrir un outil créatif et de donner aux gens le contrôle sur leur contenu. Le déploiement suggérait le contraire.

Les utilisateurs d'Instagram doivent-ils faire quelque chose maintenant ?

La fonctionnalité spécifique de marquage de Muse Image a disparu, donc aucune action immédiate n'est nécessaire pour cela. Mais il vaut la peine de vérifier les paramètres de confidentialité de votre compte Instagram dès maintenant. Si votre compte est public, n'importe qui peut voir vos publications, et les futurs outils IA, de Meta ou d'autres, pourraient les utiliser à moins que vous ne vous désinscriviez ou que vous ne passiez à un compte privé.

Meta a confirmé que d'autres fonctionnalités IA sont prévues pour WhatsApp, Facebook et Messenger, et un outil vidéo IA est en cours de développement. Cette histoire n'est probablement pas la dernière de ce type.

SAG-AFTRA a qualifié le retrait de victoire. C'est une petite victoire. La question plus large, celle de savoir si vos images publiées publiquement peuvent être utilisées pour former ou alimenter des outils IA, reste totalement ouverte.