Google affirme que ses outils ont aidé à créer 100 milliards d'images IA. Un filigrane peut les identifier, mais peut-il arrêter les dégâts ?

Points clés

• Starling Lab, une collaboration de recherche entre l'Université Stanford et l'Université de Californie du Sud, estime que l'humanité a mis 149 ans pour produire 1,5 milliard de photographies ; l'IA générative a atteint ce seuil en 18 mois.
• Google a annoncé lors de sa conférence pour développeurs I/O cette année que ses outils ont aidé à créer plus de 100 milliards d'images et de vidéos IA en seulement quelques années.
• Google élargit ses partenariats autour de SynthID, sa technologie pour baliser le contenu généré par l'IA, afin que davantage de plates-formes puissent l'utiliser.
• SynthID peut identifier le contenu IA à la création, mais l'étiquette ne peut pas empêcher les fausses images de se propager avant que quelqu'un les vérifie.

Chiffrez-le : l'humanité a pris des photographies pendant 149 ans avant d'atteindre 1,5 milliard d'images. L'IA générative, un logiciel qui crée des photos, des vidéos et de l'audio à partir d'une invite textuelle, a franchi la même ligne en 18 mois. Ces chiffres proviennent de Starling Lab, une collaboration de recherche dirigée conjointement par l'Université Stanford et l'Université de Californie du Sud, qui étudie comment les médias numériques sont authentifiés.

Puis Google est arrivé avec un nombre plus important. Lors de sa conférence I/O ce printemps, l'entreprise a déclaré que ses outils avaient été utilisés pour produire plus de 100 milliards d'images et de vidéos IA en seulement quelques années. Selon les premiers rapports d'Ars Technica AI, ce chiffre couvre les seuls produits de Google. Des dizaines d'autres entreprises gèrent également des générateurs d'images et de vidéos.

Qu'est-ce que SynthID et comment fonctionne-t-il ?

SynthID est la réponse de Google à une question simple : une fois qu'une image IA existe, comment quelqu'un sait-il qu'elle est fausse ? L'outil intègre un filigrane invisible, un signal caché tissé dans les pixels ou les données audio, dans le contenu au moment où les systèmes de Google le créent. Un détecteur séparé peut alors lire ce signal plus tard.

Le filigrane résiste à une quantité surprenante d'abus. Le recadrage, les filtres de couleur et les captures d'écran généralement le laissent intact.

Google a utilisé l'annonce I/O pour confirmer de nouveaux partenariats qui étendraient SynthID à davantage de plates-formes, ce qui signifie que le contenu IA créé ailleurs pourrait porter l'étiquette.

Alors le problème est-il résolu ?

Loin de là. Un filigrane est une étiquette, pas un verrou.

Le contenu portant une étiquette SynthID peut toujours se propager sur les médias sociaux, les applications de messagerie et les fils d'actualité bien avant que tout détecteur le scanne. La plupart des gens ordinaires n'ont aucun moyen de faire eux-mêmes une vérification, et les plates-formes ne sont pas tenues d'afficher un avertissement même si elles pouvaient.

Il y a aussi le contenu qui n'est jamais balisé. SynthID marque uniquement ce que produisent les propres outils de Google. Toute image réalisée avec un générateur concurrent, ou avec un ancien logiciel open-source que n'importe qui peut télécharger et exécuter localement, ne porte aucun filigrane.

À quoi les lecteurs doivent-ils faire attention ?

La technologie d'étiquetage est véritablement utile et vaut la peine d'être conservée. Mais le volume est la véritable histoire ici. Quand les outils d'une seule entreprise peuvent produire 100 milliards de pièces de médias synthétiques en deux ans, le véritable risque réaliste n'est pas un seul deepfake convaincant ; c'est un océan de contenu faux plausible qui déborde la capacité humaine à le remettre en question.

Quelques habitudes pratiques aident. Effectuez une recherche d'image inversée sur toute photo qui semble conçue pour provoquer une réaction forte. Vérifiez si une histoire apparaît dans plus d'une source crédible avant de la partager. Si une vidéo montre quelqu'un disant quelque chose de choquant, recherchez une transcription textuelle d'un journaliste nommé avant de lui faire confiance.

Le filigrane est un point de départ. Le scepticisme reste le meilleur outil.