Meta zog sein KI-Bildwerkzeug zurück, nachdem Nutzer merkten, dass Fremde ihre Fotos ohne Genehmigung remixen konnten

Wichtigste Punkte

• Meta startete Muse Image, sein erstes KI-Bildgenerierungstool, am Dienstag auf Instagram, zog es aber Tage später nach Gegenreaktion zurück.
• Die Funktion ermöglichte es Nutzern, ein beliebiges öffentliches Instagram-Konto zu markieren und dessen Fotos zur Erstellung von KI-generierten Bildern zu verwenden – ohne Wissen oder Zustimmung des Kontoinhabers.
• Öffentliche Instagram-Konten waren standardmäßig aktiviert, was bedeutete, dass Nutzer sich aktiv abmelden mussten, um ihr eigenes Aussehen zu schützen.
• Die Hollywoodgewerkschaft SAG-AFTRA bezeichnete Metas Kehrtwende als einen „Sieg" und hatte zuvor alle Instagram-Nutzer aufgefordert, Schutzmaßnahmen zu ergreifen.
• Meta sagte, es habe „daneben gegriffen", und bestätigte, dass die Funktion nicht mehr verfügbar ist.

Meta, das Unternehmen, das Instagram, Facebook und WhatsApp besitzt, startete am Dienstag Muse Image. Muse Image ist ein neues KI-Bildgenerierungstool – Software, die basierend auf Textanweisungen und bestehenden Bildern Fotos erstellen oder verändern kann – und war direkt in Metas KI-Chatbot auf Instagram integriert.

Das Problem war, was es mit den Fotos anderer Personen tun konnte.

Jeder Nutzer konnte ein öffentliches Instagram-Konto im Chatbot von Meta markieren und die auf diesem Konto veröffentlichten Bilder als Rohmaterial zur Generierung neuer KI-erstellter Bilder verwenden. Die Person, deren Fotos verwendet wurden, musste nicht zustimmen. Sie musste nicht einmal davon wissen.

Öffentliche Konten waren standardmäßig aktiviert. Das bedeutete, dass Millionen gewöhnlicher Nutzer – Menschen, die kleine Unternehmen betreiben, Fitnessinhalte posten oder einfach Urlaubsbilder teilen – automatisch einbezogen wurden. Eine Abmeldung erforderte bewusste Maßnahmen, die die meisten Nutzer nicht kennen mussten.

Die Gegenreaktion war schnell und laut. SAG-AFTRA, die Hollywoodgewerkschaft, die Schauspieler und Performer vertritt, nannte dies eine „völlige Fehleinschätzung der öffentlichen Stimmung" und forderte ihre Mitglieder und alle Instagram-Nutzer zum Handeln auf. Privacy International, eine in London ansässige Menschenrechtsorganisation, sagte der BBC Technology, der Schritt sei „das neueste Zeichen, dass KI-Unternehmen die Bilder und Daten von Menschen als Rohmaterial zur Ausbeutung sehen".

Meta zog die Funktion zurück und gab eine kurze Stellungnahme ab: „Wir haben das Feedback gehört. Wir haben daneben gegriffen."

Das Unternehmen sagte, es beabsichtigte, ein kreatives Werkzeug anzubieten und den Menschen die Kontrolle über ihre Inhalte zu geben. Der Rollout deutete das Gegenteil an.

Sollten Instagram-Nutzer jetzt etwas tun?

Die spezifische Muse-Image-Markierungsfunktion ist weg, daher ist für diese sofortige Maßnahmen nicht erforderlich. Aber es ist sinnvoll, jetzt deine Instagram-Kontoeinstellungen für Datenschutz zu überprüfen. Wenn dein Konto öffentlich ist, können alle deine Beiträge sehen, und zukünftige KI-Tools – von Meta oder anderen – könnten sie verwenden, es sei denn, du meldest dich ab oder wechselst zu einem privaten Konto.

Meta bestätigte, dass weitere KI-Funktionen für WhatsApp, Facebook und Messenger geplant sind, und ein KI-Video-Tool befindet sich in Entwicklung. Diese Geschichte wird wahrscheinlich nicht die letzte ihrer Art sein.

SAG-AFTRA bezeichnete die Entfernung als einen Sieg. Es ist ein kleiner. Die breitere Frage, ob deine öffentlich veröffentlichten Bilder überhaupt zur Schulung oder zum Betreiben von KI-Tools verwendet werden können, bleibt völlig offen.