Substack ermöglicht es Lesern nun, Beiträge auf KI-Text zu scannen

Wichtigste Punkte

• Substack hat am Dienstag ein KI-Text-Erkennungstool auf seiner Webplattform und iOS-App ausgerollt.
• Das Tool wird von Pangram, einem KI-Erkennungsunternehmen, betrieben und funktioniert bei Inhalten, die länger als 100 Wörter sind.
• Autoren können ihre Entwürfe vor der Veröffentlichung auch mit Pangram scannen und Ergebnisse kennzeichnen, die sie für falsch halten.
• Substack-CEO Chris Best prägte den Begriff „Claudefishing", um Inhalte zu beschreiben, die Leser glauben machen, dass ein Mensch sie verfasst hat.

Substack möchte, dass seine Leser wissen, ob ein echter Mensch das geschrieben hat, was sie lesen, oder ob eine Maschine den Großteil der Arbeit geleistet hat.

Die Newsletter- und Social-Media-Plattform hat damit begonnen, ein integriertes KI-Erkennungstool auszurollen, das von einem Unternehmen namens Pangram betrieben wird, das sich auf die Identifizierung von KI-generiertem Text spezialisiert hat. Leser können einen Scan für jeden Beitrag, jede Notiz, Antwort oder jeden Kommentar auslösen, der länger als 100 Wörter ist. Tippen Sie einfach auf das Drei-Punkte-Menü in der oberen rechten Ecke eines Beitrags und wählen Sie „Nach KI-Text scannen". Das Tool gibt eine Schätzung zurück, wie viel des Textes von einer KI stammen könnte oder stark von ihr unterstützt wurde.

Die Funktion ist jetzt im Web und in der Substack iOS-App verfügbar. Android-Unterstützung folgt in Kürze, wie zunächst von The Verge AI berichtet wurde.

Substack-Mitgründer und CEO Chris Best rahmt den Schritt als Vertrauensproblem und nicht als Technologieverbot ein. „Das Kernproblem ist nicht, dass Menschen KI nutzen oder die Qualität ihrer Ergebnisse", schrieb Best in einem Blogbeitrag. „Das Problem liegt darin, wenn es einen Unterschied zwischen der Erwartung und der Realität eines Lesers gibt."

Best gab diesem Missverhältnis einen Namen: Claudefishing. Es ist eine Anspielung auf Catfishing, bei dem sich jemand online als jemand anderes ausgibt, nur dass hier ein Autor vorgibt, dass menschliches Denken in einen Text floss, den ein großes Sprachmodell, die Technologie hinter Chatbots wie ChatGPT, tatsächlich produziert hat.

Das Tool hat echte Grenzen. Best ist offen darüber. Pangram kann erkennen, ob KI die Wörter auf der Seite geprägt hat. Es kann nicht erkennen, ob der Autor Stunden damit verbracht hat, diese KI-Ausgabe sorgfältig zu lenken, zu bearbeiten und zu überprüfen. Ein sorgfältig unterstütztes Stück und ein beiläufig generiertes könnten ähnlich bewertet werden.

Um diese Lücke zu schließen, fügt Substack auch eine optionale Aussage „Wie ich das mache" hinzu, in der Autoren ihren Prozess in ihren eigenen Worten erklären können. Stellen Sie es sich als ein Nährwertkennzeichnis für kreative Arbeiten vor.

Sollten Leser den Scan-Ergebnissen vertrauen?

Behandeln Sie sie als nützliches Signal, nicht als Urteil. Die Schätzung von Pangram ist eine Wahrscheinlichkeit, kein Beweis. Best selbst weist darauf hin, dass es ungenaue Ergebnisse liefern kann, weshalb Autoren die Möglichkeit haben, eine Bewertung, die sie für falsch halten, zu kennzeichnen und zu melden.

Für alltägliche Substack-Leser ist die praktische Konsequenz einfach. Wenn Sie für einen Newsletter bezahlen oder einem Autor Ihre Aufmerksamkeit schenken, haben Sie nun eine schnelle Möglichkeit, zu überprüfen, ob ein Mensch tatsächlich das geschrieben hat, das Sie lesen. Das ist mehr als die meisten Plattformen bieten.

Best drückte es deutlich aus: „Plattformen, die Falschheit belohnen, erzeugen ein Rennen nach unten."