Meta ha ritirato il suo strumento di IA per la generazione di immagini dopo che gli utenti hanno scoperto che gli estranei potevano modificare le loro foto senza chiedere il permesso

Punti chiave

• Meta ha lanciato Muse Image, il suo primo strumento di generazione di immagini IA, su Instagram martedì prima di ritirarlo pochi giorni dopo a seguito delle proteste pubbliche.
• La funzionalità consentiva agli utenti di taggare qualsiasi account Instagram pubblico e utilizzare le sue foto per creare immagini generate dall'IA, senza la conoscenza o il consenso del proprietario dell'account.
• Gli account Instagram pubblici erano attivati per impostazione predefinita, il che significa che gli utenti dovevano disattivarla attivamente per proteggere il loro volto.
• L'unione hollywoodiana SAG-AFTRA ha definito la marcia indietro di Meta una "vittoria" e in precedenza aveva esortato tutti gli utenti di Instagram a prendere misure protettive.
• Meta ha dichiarato di avere "mancato il bersaglio" e ha confermato che la funzionalità non è più disponibile.

Meta, l'azienda che possiede Instagram, Facebook e WhatsApp, ha lanciato Muse Image martedì. Muse Image è un nuovo strumento di generazione di immagini IA, un software che può creare o alterare foto sulla base di descrizioni testuali e immagini esistenti, ed era integrato direttamente nel chatbot IA di Meta su Instagram.

Il problema era ciò che poteva fare con le foto di altre persone.

Qualsiasi utente poteva taggare un account Instagram pubblico all'interno del chatbot di Meta, quindi utilizzare le immagini pubblicate di quell'account come materiale grezzo per generare nuove immagini create dall'IA. La persona le cui foto venivano utilizzate non doveva essere d'accordo. Non doveva nemmeno saperlo.

Gli account pubblici erano attivati per impostazione predefinita. Ciò significa che milioni di utenti ordinari, persone che gestiscono piccole imprese, pubblicano contenuti di fitness o semplicemente condividono foto di vacanza, erano inclusi automaticamente. La disattivazione richiedeva un'azione deliberata che la maggior parte degli utenti non sapeva nemmeno di dover intraprendere.

La reazione è stata veloce e veemente. SAG-AFTRA, l'unione hollywoodiana che rappresenta attori e performer, l'ha definita un "grave errore di valutazione del sentimento pubblico" e ha esortato i suoi membri e tutti gli utenti di Instagram ad agire. Privacy International, un'organizzazione no-profit per i diritti umani con sede a Londra, ha detto alla BBC Technology che la mossa era "l'ultimo segno che le aziende di IA vedono le immagini e i dati delle persone come materiale grezzo da sfruttare".

Meta ha ritirato la funzionalità e ha rilasciato una breve dichiarazione: "Abbiamo sentito il feedback. Abbiamo mancato il bersaglio".

L'azienda ha affermato che la sua intenzione era offrire uno strumento creativo e dare alle persone il controllo sui loro contenuti. Il lancio ha suggerito il contrario.

Gli utenti di Instagram dovrebbero fare qualcosa ora?

La specifica funzionalità di tagging di Muse Image è scomparsa, quindi non è necessaria alcuna azione immediata per quella. Ma vale la pena controllare le impostazioni sulla privacy del tuo account Instagram ora. Se il tuo account è pubblico, chiunque può vedere i tuoi post, e futuri strumenti di IA, da Meta o da chiunque altro, potrebbero utilizzarli a meno che tu non disattivi o non cambi a un account privato.

Meta ha confermato che sono pianificate più funzionalità di IA per WhatsApp, Facebook e Messenger, e uno strumento di IA per i video è in fase di sviluppo. È probabile che questa storia non sia l'ultima del suo genere.

SAG-AFTRA ha definito la rimozione una vittoria. È una piccola vittoria. La domanda più ampia, se le tue immagini pubblicate possono essere utilizzate per addestrare o alimentare strumenti di IA in generale, rimane aperta.