Die EU verlangt nun Kennzeichnungen auf KI-generierten Bildern, Audio und Text
Eine neue Regelung der Europäischen Union, die diese Woche in Kraft trat, besagt, dass realistisch aussehende Inhalte, die von künstlicher Intelligenz erstellt wurden, deutlich als solche gekennzeichnet werden müssen. Dies betrifft alles von politischen Attackvideos bis hin zu von KI geschriebenen Nachrichtenartikeln.
Wichtigste Punkte
- EU-Regeln zur Kennzeichnung von KI-generierten Bildern, Audio und Text sind am Sonntag in Kraft getreten.
- Die Regeln gelten für jeden künstlich erstellten Inhalt, der echt aussehen oder klingen soll, einschließlich gefälschter Videos, Sprachaufzeichnungen und geschriebener Artikel.
- Politische Deepfakes, also gefälschte Videos oder Audioclips, die von KI generiert werden und wie echte Politiker aussehen und klingen, waren ein Schlüsseltreiber der Gesetzgebung.
- Unternehmen, die KI-generierte Inhalte nicht kennzeichnen, drohen Strafen im Rahmen des breiteren EU-KI-Gesetzes.
- Die Regeln gelten für Inhalte, die in der Europäischen Union verbreitet werden, unabhängig davon, wo sich das Unternehmen, das sie produziert, befindet.
Seit mehreren Jahren haben europäische Wähler gefälschte Videos im Internet gesehen, die zeigen, wie Politiker angeblich Wahlen stehlen, Personal schikanieren oder peinliche Stunts aufführen. Nichts davon war real. Alles war überzeugend. Ab diesem Sonntag müssen solche Inhalte, wenn sie mit KI erstellt und so konzipiert sind, dass sie authentisch wirken, mit einer deutlichen Kennzeichnung versehen sein.
The Guardian AI berichtete zunächst über das Aktivierungsdatum der Regel. Die Anforderung ist Teil des breiteren Bestrebens der EU, künstliche Intelligenz zu regulieren, bevor ihre Schäden ihre Vorteile überwiegen.
Was genau muss gekennzeichnet werden?
Jeder KI-generierte Inhalt, der echt aussehen oder klingen soll. Das bedeutet ein realistisches gefälschtes Foto eines Politikers, ein Audioclip, der die Stimme eines CEO imitiert, oder ein geschriebener Artikel, der sich als menschengemachten Journalismus ausgibt. Die Kennzeichnung muss sichtbar und klar sein, nicht im Kleingedruckten versteckt.
Inhalte, die offensichtlich fiktiv sind oder eindeutig ein kreatives Experiment darstellen, werden anders behandelt. Das Ziel ist Material, das designed, um zu täuschen.
Wen betrifft dies?
Jedes Unternehmen, das Inhalte an EU-Zielgruppen verbreitet, muss sich daran halten, auch wenn es außerhalb Europas ansässig ist. Eine Social-Media-Plattform mit Sitz in Kalifornien, ein News-Aggregator aus Singapur: Wenn ihre Inhalte Menschen in Frankreich oder Deutschland erreichen, gelten die Regeln.
Für normale Menschen, die in sozialen Medien scrollen oder online Nachrichten lesen, bedeutet die Änderung, dass KI-generierte Inhalte theoretisch mit einer sichtbaren Markierung versehen sein sollten. Stellen Sie sich das wie ein Nährwertkennzeichen auf Lebensmitteln vor: Es hindert Sie nicht daran, es zu konsumieren, aber es teilt Ihnen mit, was Sie bekommen.
| Inhaltstyp | Muss gekennzeichnet werden? | Hauptanliegen |
|---|---|---|
| KI-generierte politische Bilder | Ja | Wahlmanipulation |
| KI-Sprachclips echter Personen | Ja | Betrug, Verleumdung |
| KI-geschriebene Artikel als echt ausgegeben | Ja | Desinformation |
| Deutlich gekennzeichnete KI-Kunst oder Fiktion | Nein | Nicht designed, um zu täuschen |
| KI-Tools zum Bearbeiten, nicht Generieren | Im Einzelfall | Abhängig von der Absicht |
Wird das tatsächlich funktionieren?
Die Durchsetzung ist die offene Frage. Kennzeichnungsregeln funktionieren nur, wenn Plattformen und Ersteller sie ehrlich anwenden und wenn Regulierer die Ressourcen haben zu kontrollieren. Das EU-KI-Gesetz, das breitere Gesetz hinter diesen Regeln, gibt Regulierern Zähne: Geldstrafen können für schwerwiegende Verstöße Zehner Millionen Euro erreichen.
Die größere Herausforderung ist Geschwindigkeit. Neue KI-Tools, die überzeugend gefälschte Inhalte generieren, erscheinen schneller als die Gesetzgebung sie verfolgen kann. Forscher, die Desinformation untersuchen, sagen, dass Kennzeichnung allein entschlossene böse Akteure nicht stoppen wird, aber es verlagert die gesetzliche Verantwortung auf die Plattformen, die den Inhalt hosten.
Wenn Sie vorerst ein auffälliges Video eines Politikers sehen, der etwas Ungeheuerliches tut, lohnt es sich, inne zu halten, bevor Sie es teilen. Eine Kennzeichnung sollte schließlich erscheinen. Bis die Durchsetzung aufgeholt hat, ist ein Moment der Skepsis immer noch Ihr bester Schutz.
Häufig gestellte Fragen
Gilt diese Regel für Inhalte, die ich in sozialen Medien sehe?
Ja. Wenn eine Social-Media-Plattform Nutzer in der EU bedient, muss sie KI-generierte Inhalte kennzeichnen, die so designed sind, echt auszusehen, unabhängig davon, wer den Beitrag erstellt hat.
Was passiert, wenn ein Unternehmen die Regel ignoriert?
Unternehmen, die gegen EU-KI-Gesetz-Verpflichtungen verstoßen, drohen Geldstrafen, die Zehner Millionen Euro erreichen können, oder ein Prozentsatz des globalen Jahresumsatzes, je nachdem was höher ist.
Gilt dies für KI-Tools, die ich privat nutze, wie Bildgeneratoren?
Die Regeln zielen hauptsächlich auf öffentlich verbreitete Inhalte ab. Die private, nicht öffentliche Nutzung eines KI-Bildgenerators ist eine andere Angelegenheit, obwohl das Veröffentlichen dieses Outputs ohne Kennzeichnung die Anforderung auslösen könnte.
