Pourquoi il devient plus difficile de repérer les visages générés par l'IA

Points clés

• Des chercheurs de l'Université nationale australienne rapportent que les visages générés par l'IA trompent désormais la plupart des gens.
• L'entraînement à repérer les défauts comme les doigts supplémentaires n'est plus fiable à mesure que l'IA s'améliore.
• Une équipe de recherche mondiale développe des méthodes de détection subtiles avec des résultats prometteurs.

Repérer les visages générés par l'IA était autrefois facile. Un doigt supplémentaire, une oreille de travers ou des dents qui ne s'ajustaient pas bien les révélaient. Mais maintenant, les outils d'images IA deviennent si performants que ces erreurs flagrantes disparaissent. Cela rend beaucoup plus difficile de distinguer la photo d'une vraie personne d'une photo générée par ordinateur.

La professeure Amy Dawel de l'Université nationale australienne (ANU) dirige une équipe de recherche qui essaie d'aider les gens à suivre le rythme. Comme l'a rapporté pour la première fois ThreatVectr, son équipe s'étend à l'Australie, au Canada et au Royaume-Uni, et travaille sur de nouvelles façons d'identifier les faux numériques.

Pourquoi cela importe-t-il pour la personne moyenne ? Les escrocs utilisent ces visages IA réalistes pour créer de faux profils sur les applications de rencontre, les sites d'emploi et les réseaux sociaux. Un visage convaincant les aide à gagner la confiance plus rapidement. Cela signifie que davantage de personnes pourraient donner leur argent ou leurs informations personnelles avant de réaliser qu'elles ont été trompées.

L'ancien conseil de chercher des oreilles bizarres ou de compter les doigts ne suffit plus. Les systèmes d'IA ont appris de leurs erreurs et se sont améliorés. L'équipe de Dawel se concentre maintenant sur la recherche de signes plus subtils d'un faux. Ils croient que les gens peuvent toujours apprendre à repérer les visages générés par l'IA, mais ont besoin d'un nouvel entraînement.

Aucun truc unique ne fonctionne encore, et partager une liste de vérification n'aiderait que les fraudeurs à améliorer leurs faux. Pour l'instant, le meilleur conseil est d'être prudent. Si vous recevez un message inattendu d'une nouvelle personne, surtout si elle évite les appels vidéo ou n'a que très peu de photos anciennes, soyez sceptique. Une recherche d'image inversée peut parfois détecter un faux en voyant où d'autres la photo apparaît en ligne.

Les utilisateurs doivent-ils s'inquiéter ?

Oui, mais sans paniquer. La technologie derrière les faux visages progresse plus vite que la capacité de la plupart des gens à les détecter. Les chercheurs travaillent dur pour réduire cet écart. Jusqu'à ce qu'ils réussissent, il est prudent de s'arrêter avant de faire confiance à la photo d'un inconnu.

La recherche continue de Dawel offre de l'espoir. Avec de nouvelles méthodes de détection, les gens pourraient bientôt mieux identifier les faux visages générés par l'IA. En attendant, une bonne dose de scepticisme reste une défense sensée.