Kanadischer Politiker liest versehentlich die Anweisungen seines KI-Chatbots während einer Parlamentsrede vor
Ein Abgeordneter aus New Brunswick sprach eine Zeile aus, die nur für die KI bestimmt war, laut und protokolliert aus. Es ist ein kleiner peinlicher Moment mit einer größeren Lektion darüber, wer die Arbeit tatsächlich leistet.
Wichtige Punkte
- Bill Oliver, ein Mitglied der Progressive Conservative Party in der Legislaturversammlung von New Brunswick, las während einer Parlamentsrede offenbar eine KI-Chatbot-Anweisung laut vor.
- Die Zeile „hier ist eine natürlichere, fließendere Version dieses Abschnitts, die wie eine Parlamentsrede klingt und nicht wie eine Reihe von Kurzpunkten" ist eine klassische Antwort eines großen Sprachmodells, die Technologie hinter Chatbots wie ChatGPT und Claude.
- Der Clip wurde zunächst nicht beachtet, verbreitete sich aber diese Woche in sozialen Medien wie Reddit und Threads.
- Kanadische Medienunternehmen CBC und The Toronto Star haben die Geschichte inzwischen aufgegriffen.
Was ist eigentlich passiert?
Oliver war mitten in einer Rede über die Grenzen von Interessenvertretungsbüros, als etwas schiefging. Er las einen legitimen politischen Satz vor, machte dann aber weiter und sagte die unausgesprochene Stelle laut: eine Formatierungsanweisung, die die KI in ihrer eigenen Antwort hinterlassen hatte.
Diese zweite Zeile über eine „natürlichere, fließendere Version", die „wie eine Parlamentsrede klingt", ist kein menschlicher Gedanke. So erklärt ein großes Sprachmodell, die Software, die Text in Tools wie ChatGPT generiert, einem Benutzer, dass es einen Absatz in einem anderen Stil umgeschrieben hat. Das Modell platziert die Notiz direkt im Text. Oliver scheint das Ganze kopiert zu haben und jedes Wort gelesen zu haben.
Die Rede fand letzten Monat statt. Zu diesem Zeitpunkt hat niemand etwas bemerkt.
Warum wird es jetzt beachtet?
Ein Clip begann sich diese Woche auf Reddit und Threads zu verbreiten, und die Geschichte erreichte schnell kanadische Mainstream-Medien. Ars Technica AI war unter den ersten Medienunternehmen, die es international abdeckten.
The Toronto Star nannte es ein Symptom einer „wachsenden Kluft in unserer Gesellschaft: zwischen den Eliten, die ihre Aufgaben nur allzu gerne dem Borg überlassen, und den Massen, die dies ablehnen." Starke Worte, aber die Frustration ist leicht zu verstehen. Eine Parlamentsrede soll das eigene Denken eines Politikers repräsentieren. Wenn ein Chatbot sie schreibt und niemand sie auch nur Korrektur liest, ist das etwas, das die Wähler zu Recht bemerken sollten.
Spielt das wirklich eine Rolle?
In praktischer Hinsicht ändert eine verwirrte Rede nichts. Politiker haben schon immer Ghostwriter und Mitarbeiterforscher eingesetzt. KI ist eine schnellere, billigere Version derselben Hilfe.
Was sich hier änderte, ist die Sichtbarkeit des Fehlers. Wenn ein menschlicher Ghostwriter einen Fehler macht, sieht der Fehler wie ein Tippfehler oder eine unbeholfene Formulierung aus. Wenn eine KI einen Fehler macht, hinterlässt sie eine Zeile, die unverkennbar nicht menschlich ist, eine Formatierungsnotiz, die für ein Maschinenauditorium und nicht für eine Kammer voller Wähler geschrieben wurde.
Survivorship Bias ist hier auch erwähnenswert: Wir hören von den Politikern, die erwischt werden. Die, die vor dem Sprechen Korrektur lesen, bleiben unsichtbar.
Die ehrliche Konsequenz: Wenn Sie ein KI-Tool verwenden, um etwas zu entwerfen, das Sie sagen oder unterschreiben werden, lesen Sie jedes einzelne Wort, bevor es Ihre Hände verlässt. Das Modell ist hilfreich. Es ist nicht peinlichkeitssicher.
