Über 1.300 KI-Forscher warnen: Das Wettrennen der Industrie um leistungsstärkere Systeme gefährdet die Menschheit

Wichtigste Punkte

• Ein Brief, unterzeichnet von 1.367 KI-Forschern und Ingenieuren, überwiegend von OpenAI, Anthropic und Google DeepMind, warnt davor, dass das aktuelle Tempo der KI-Entwicklung ernsthafte Risiken für die Menschheit birgt.
• Die Unterzeichner arbeiten an frontier AI, also den leistungsstärksten und fortgeschrittensten KI-Systemen, die heute entwickelt werden – dies ist damit eine der direktesten Warnungen von Insidern.
• Das Schreiben widerlegt die häufig vorgebrachte These, dass sich nur Außenstehende und Kritiker um eine KI-Katastrophe sorgen.
• Dem Brief waren keine konkreten Forderungen oder Politikvorschläge beigefügt, aber seine Existenz signalisiert wachsendes Unbehagen in den Laboren selbst.

Seit Jahren zirkuliert in Tech-Kreisen eine beruhigende Aussage: Die Menschen, die KI tatsächlich entwickeln, haben keine Angst, also sollten Sie das auch nicht. Jeder, der Alarm schlägt, so das Argument, ist entweder naiv oder versteht die Technologie nicht.

Ein neu veröffentlichter offener Brief demoliert diese These gründlich.

Wer hat unterzeichnet und warum ist das wichtig?

Der Brief trägt 1.367 Unterschriften von Forschern und Ingenieuren, die in frontier-AI-Laboren arbeiten – einer handvoll von Organisationen, die um die Entwicklung der weltweit leistungsstärksten KI-Systeme konkurrieren. Die meisten Unterzeichner kommen aus drei Ihnen bekannten Namen: OpenAI, Anthropic und Google DeepMind.

Dies sind nicht externe Kritiker. Sie schreiben den Code, trainieren die Modelle und führen die Experimente durch. Ihr berufliches Leben dreht sich um die Steigerung der KI-Fähigkeiten. Und sie sind besorgt.

The Guardian berichtete zuerst über den Brief und seine Implikationen in einem Text von KI-Forscher Stuart Russell.

Worum genau sind sie besorgt?

Der Brief verweist auf katastrophales Risiko – die Möglichkeit, dass fortgeschrittene KI-Systeme großflächige, schwer umkehrbare Schäden verursachen könnten. Die Unterzeichner beschreiben den gegenwärtigen Moment als gefährlich.

Dies ist eine direkte Herausforderung für ein Muster, das in öffentlichen Debatten zur Norm geworden ist. Kritiker von KI-Sicherheitsbedenken werden oft als „Unheilspropheten" oder „Maschinenstürmer" abgetan, die eine „randständige" Sicht verbreiten, die in Science Fiction wurzelt. Die Autoren des Schreibens sagen unmissverständlich: Diese Charakterisierung ist falsch.

Die Tatsache, dass so viele Insider bereit sind, ihre Namen unter eine öffentliche Stellungnahme zu setzen, ist in sich bereits bedeutsam. Forscher in großen KI-Laboren sprechen selten öffentlich auf Weise, die ihre Arbeitgeber peinlich wirken lassen könnte.

Was bedeutet das für normale Menschen?

Es bedeutet, dass die Diskussion über KI-Risiken nicht randständig ist. Wenn mehr als tausend Menschen, die an der Technologie arbeiten, öffentlich sagen, dass sie besorgt sind, ist das beachtlich.

Es bedeutet nicht, dass KI definitiv eine Katastrophe verursachen wird. Es bedeutet, dass die Menschen, die am besten Einblick haben, was in diesen Systemen vor sich geht, denken, dass die Risiken real und ernst genug sind, um es öffentlich zu sagen.

Derzeit ist keine konkrete Aktion von der Öffentlichkeit erforderlich. Aber wenn Ihnen gesagt wurde, sich keine Sorgen zu machen, weil sich „die Experten" nicht sorgen, ist dieser Brief ein Beweis dafür, dass dieses Bild nie korrekt war.

Was kommt als Nächstes?

Der Brief enthält keine Liste von Forderungen oder einen vorgeschlagenen politischen Lösungsansatz, was seine unmittelbare Auswirkung begrenzt. Er funktioniert eher als Signal, ein Riss in der öffentlichen Fassade des Vertrauens, das die großen Labore generell präsentiert haben.

Der Druck auf staatliche Aufsicht bei der KI-Entwicklung baut sich in den USA, Großbritannien und der Europäischen Union auf. Briefe wie dieser addieren sich zu diesen Forderungen, auch ohne genau auszubuchstabieren, was Regulierer tun sollten.