OpenAI behauptete, GPT-2 sei zu gefährlich für die Veröffentlichung. Hätten wir das glauben sollen?

Wichtigste Punkte

• Am 14. Februar 2019 kündigte OpenAI ein Sprachmodell namens GPT-2 an, weigerte sich jedoch, es öffentlich freizugeben, und begründete dies mit zu großen Missbrauchsrisiken.
• GPT-2 war der unmittelbare Vorgänger der Modelle, die heute ChatGPT, Claude und ähnliche KI-Chatbots antreiben.
• Mindestens ein Forscher empfand die Ankündigung als unhilfreich und die angegebenen Risiken als übertrieben.
• Der Vorfall wirft ein Muster auf, das es zu beobachten gilt: KI-Unternehmen, die Gefahren hochspielen, spielen möglicherweise auch Leistungsfähigkeit hoch und ziehen dabei Investoren an.

Was ist 2019 tatsächlich passiert?

OpenAI entwickelte ein Sprachmodell, eine Art Software, die auf riesigen Textmengen trainiert wurde, um schreiben, zusammenfassen und Fragen beantworten zu können, und kündigte es dann der Welt an, weigerte sich aber, es weiterzugeben. Das Unternehmen nannte das Modell GPT-2 und sagte, es sei einfach zu riskant, es in öffentliche Hände zu geben.

Die Sorge, wie OpenAI sie darstellte, war Missbrauch. Böswillige Akteure könnten GPT-2 nutzen, um Fake News in großem Maßstab zu verfassen oder das Internet mit überzeugenden Desinformationen zu überfluten. Theoretisch eine berechttigte Befürchtung.

In der Praxis war mindestens ein Forscher nicht überzeugt. In einem Artikel für The Guardian erinnert sich der Stanford-Forscher John Thickstun, dass er sich damals verärgert fühlte. Ohne Zugang zum eigentlichen Modell konnte er es nicht studieren, testen oder viel daraus lernen. Die Warnung war laut; die substanzielle Grundlage dünn.

Wer profitiert, wenn ein KI-Unternehmen Gefahren ankündigt?

Das ist die schärfere Frage, die Thickstun direkt aufwirft.

Der Welt zu sagen, dass deine Technologie gefährlich ist, bedeutet auch stillschweigend, der Welt zu sagen, dass deine Technologie leistungsfähig ist. Leistungsstarke Technologie zieht Investoren an. Investoren schreiben große Schecks. Das Unternehmen, das gerade alle vor seiner beängstigenden KI gewarnt hat, ist nun besser finanziert, um mehr davon zu bauen.

Das ist keine Verschwörung. Es ist nur ein Anreiz, den es zu beachten gilt.

GPT-2 wurde schließlich vollständig in Stufen später 2019 veröffentlicht. Der katastrophale Missbrauch, den OpenAI fürchtete, manifestierte sich nicht in irgendeiner offensichtlichen, dokumentierten Welle. Das Modell wurde zum Forschungswerkzeug. Seine Nachfolger, GPT-3 und dann GPT-4, wurden zum Motor in Produkten, die heute von Hunderten von Millionen Menschen genutzt werden.

Bedeutet das, dass Sicherheitswarnungen immer falsch sind?

Nein. Einige KI-Risiken sind real und einige Warnungen verdienen ernsthafte Aufmerksamkeit. Der Punkt ist nicht, jede Vorsichtsmaßnahme aus jedem Labor abzutun.

Der Punkt ist zu fragen, wer spricht, was sie gewinnen könnten und ob die Evidenz hinter der Warnung etwas ist, das Außenstehende tatsächlich überprüfen können. Ein Sicherheitsanspruch, der durch veröffentlichte Forschung und unabhängige Überprüfung gestützt wird, ist etwas völlig anderes als eine Pressemitteilung ohne beigefügtes Modell.

Wenn ein KI-Unternehmen das nächste Mal ankündigt, dass sein neuestes System sowohl erschreckend leistungsfähig als auch zu empfindlich ist, um offen zu teilen, lohnt es sich innezuhalten. Fragen Sie, was Forscher ohne Zusammenarbeit des Unternehmens überprüfen können. Fragen Sie, wer die nächste Investitionsrunde finanziert, nachdem die Schlagzeilen vorbei sind. Fragen Sie, ob die beschriebene Gefahr spezifisch und messbar ist, oder lebendig und vage.

Neugier und Skepsis sind keine Gegensätze zum Ernstnehmen von KI. Sie sind das, wie man KI wirklich ernstnimmt.