KI könnte Krebs heilen oder Autokratie zementieren. Welchen Weg es geht, liegt bei uns

Wichtigste Punkte

• Katherine Rundell, Autorin und Akademikerin an der Universität Oxford, warnt davor, dass KI bereits Vermögen und Macht auf eine kleine Anzahl von Personen verlagert.
• Sie argumentiert, dass KI zur Verbreitung von Desinformation, zur Massenüberwachung und zum Betrieb von Waffen genutzt werden könnte, die ohne menschliche Piloten oder Soldaten töten.
• Sie nennt auch echte Vorteile: schnellere Krebsforschung, bessere Katastrophenwarnungen, besserer Zugang zu Rechtsberatung.
• Ihre zentrale These, veröffentlicht im Guardian, ist, dass der Kontrolleur von KI wichtiger ist als das, was KI leisten kann.

Zwei Zukünfte leben in derselben Technologie. Das ist das unbequeme Argument, das Katherine Rundell, Autorin und Akademikerin, diese Woche den Lesern vorlegt, und es ist schwer zu widersprechen.

Auf der einen Seite: ein Werkzeug, das nach ihren Worten die Heilung von Krebs beschleunigen, Menschen mit Behinderungen zu mehr Unabhängigkeit verhelfen und gewöhnliche Bürger mit der Art von Rechtskenntnissen ausstatten könnte, die derzeit hunderte Pfund pro Stunde kosten. Frühwarnsysteme für Überschwemmungen und Waldbrände könnten genauer werden. Wissenschaftler könnten Muster in den Ökosystemen der Erde finden, die kein menschliches Team allein entdecken könnte.

Auf der anderen Seite sitzt etwas Dunkleres.

Wovor warnt Rundell eigentlich?

Ihre größte Sorge ist die Konzentration von Macht. KI, schreibt sie, ermöglicht bereits eine „atemberaubende Verschiebung" von Vermögen von vielen zu einer winzigen Gruppe von Männern, deren Einstellung zum menschlichen Leben sie beunruhigend findet. Sie nennt sie nicht beim Namen, aber die Aussage kommt an.

Über Vermögen hinaus hebt sie drei spezifische Gefahren hervor. Erstens Desinformation in einem Ausmaß, das keine vorherige Technologie erreichen könnte: KI kann gefälschten Text, Bilder und Videos ohne Armeen von menschlichen Arbeitern dahinter erzeugen. Zweitens Massenüberwachung, die Fähigkeit von Regierungen oder Unternehmen, Bürger so vollständig zu beobachten und aufzuzeichnen, dass Widerspruch gefährlich wird. Drittens autonome Waffensysteme, Militärsysteme, die Ziele auswählen und töten, ohne dass ein Mensch die letzte Entscheidung trifft.

Zusammengenommen, argumentiert sie, beschreiben diese Fähigkeiten etwas, das einer schlüsselfertigen Werkzeugkiste für autoritäre Herrschaft nahe kommt.

Bedeutet das, dass KI schlecht ist?

Rundell sagt nein, aber sie stellt eine harte Bedingung. Die Vorteile entstehen nur, wenn die Menschen, die die Technologie kontrollieren, etwas wie gute Werte haben. Wenn KI in den Händen von „Verbrechern und Despoten" konzentriert wird, sind die medizinischen Durchbrüche irrelevant.

Das ist kein technisches Argument. Es ist ein politisches.

Ihr Fokus liegt auf Bildung: Klassenzimmer sind der Ort, an dem die nächste Generation von Wählern, Ingenieuren und Politikgestaltern ihre Annahmen darüber formt, wofür Technologie da ist. Sie macht sich Sorgen, dass diese Köpfe von Werkzeugen geprägt werden, die für Engagement und Effizienz statt für Neugier und kritisches Denken gebaut sind.

Was bedeutet das für normale Menschen?

Die praktische Auswirkung befasst sich weniger damit, welche App man nutzt, sondern eher damit, wen man wählt und welche Fragen man den Unternehmen stellt, die diese Systeme entwickeln. Rundells Text ist ein Anstoß, keine Anleitung.

Für Eltern und Lehrer ist die unmittelbarere Frage, die sie aufwirft, ob die Version von KI, der Schüler in der Schule begegnen, ihr Denken aufbaut oder es leise ersetzt. Diese Debatte findet derzeit in Lehrerzimmern und in Politikdokumenten statt, und sie wird nicht warten.

Häufig gestellte Fragen

Wird KI bereits jetzt zur Überwachung eingesetzt?

Ja. Regierungen in mehreren Ländern nutzen bereits KI-gestützte Gesichtserkennung und Datenanalyse, um Bürger zu überwachen. Die Technologie ist nicht hypothetisch.

Kann KI wirklich bei der Krebsheilungsfindung helfen?

KI-Tools werden bereits in der Krebsforschung eingesetzt, um medizinische Scans zu analysieren und Arzneimittelkandidaten schneller zu identifizieren als allein menschliche Forscher. Die bisherigen Ergebnisse sind vielversprechend, aber Heilungen liegen noch Jahre entfernt.

Sollte ich mir Sorgen um KI und die Schulbildung meines Kindes machen?

Die Debatte läuft und ist ungeklärt. Das Nützlichste, das ein Elternteil derzeit tun kann, ist, die Schule des Kindes zu fragen, welche Richtlinie es zu KI-Tools hat und ob kritisches Denken noch ausdrücklich gelehrt wird.