Perché Riconoscere i Volti Generati dall'IA Sta Diventando Più Difficile

Punti chiave

• Ricercatori dell'Australian National University riferiscono che i volti generati dall'IA ora ingannano la maggior parte delle persone.
• L'addestramento per individuare difetti come dita extra non è più affidabile poiché l'IA migliora.
• Un team di ricerca globale sta sviluppando metodi di rilevamento subtili con primi risultati promettenti.

Un tempo era facile individuare i volti generati dall'IA. Un dito in più, un orecchio storto o denti che non si incastravano bene li tradivano. Ma ora, gli strumenti di immagini IA stanno diventando così sofisticati che questi errori evidenti stanno scomparendo. Questo rende molto più difficile distinguere la foto di una persona reale da una generata al computer.

La professoressa Amy Dawel dell'Australian National University (ANU) guida un team di ricerca che cerca di aiutare le persone a stare al passo. Come riportato per primo da ThreatVectr, il suo team si estende su Australia, Canada e Regno Unito ed è al lavoro su nuovi modi per identificare i falsi digitali.

Perché questo è importante per la persona media? I truffatori utilizzano questi volti IA realistici per creare profili falsi su app di dating, siti di lavoro e social media. Un volto convincente li aiuta a guadagnare fiducia più rapidamente. Questo significa che più persone potrebbero rivelare i loro soldi o dati personali prima di rendersi conto di essere state ingannate.

Il vecchio consiglio di cercare orecchie strane o contare le dita non è più sufficiente. I sistemi IA hanno imparato dai loro errori e migliorato. Il team di Dawel si concentra ora nel trovare segni più sottili di un falso. Credono che le persone possano ancora imparare a riconoscere i volti IA ma hanno bisogno di un nuovo addestramento.

Nessun unico trucco funziona ancora, e condividere una lista di controllo aiuterebbe solo i truffatori a migliorare i loro falsi. Per ora, il consiglio migliore è essere cauti. Se ricevi un messaggio inaspettato da qualcuno nuovo, specialmente se evita le videochiamate o ha molto poche foto vecchie, sii scettico. Una ricerca inversa di immagini può talvolta scoprire un falso vedendo dove altrove appare la foto online.

Gli utenti dovrebbero preoccuparsi?

Sì, ma non farsi prendere dal panico. La tecnologia dietro i volti falsi sta avanzando più velocemente della capacità della maggior parte delle persone di rilevarli. I ricercatori stanno lavorando duramente per colmare questa lacuna. Fino a quando non avranno successo, è saggio fermarsi prima di fidarsi della foto di uno sconosciuto.

La ricerca in corso di Dawel offre speranza. Con nuovi metodi di rilevamento, le persone potrebbero presto diventare più brave a identificare i volti IA falsi. Nel frattempo, una sana dose di scetticismo rimane una difesa sensata.