Zwei Drittel der Menschen halten ChatGPT für bewusst. Ein Philosoph sagt, wir täuschen uns selbst seit Jahrzehnten.

Wichtigste Punkte

• Zwei Drittel der Befragten in einer kürzlich durchgeführten Studie glauben, dass KI-Tools wie ChatGPT, ein textbasierter Chatbot von OpenAI, eine Form von Bewusstsein oder Gefühl besitzen.
• Die amerikanische Feministin Elizabeth Spelman prägte 1982 in einem Artikel den Begriff „Somatophobie", um den Glauben zu beschreiben, dass Menschen Geist und nicht Körper sind.
• Die Philosophin und Autorin Melanie Challenger argumentiert in The Guardian, dass moderne KI die mächtigste Version dieser Illusion ist.
• Es wurde wissenschaftlich nachgewiesen, dass kein aktuelles KI-System Gefühle, Bewusstsein oder gelebte Erfahrung in irgendeinem verifizierten Sinne hat.

Die meisten Menschen würden „Nein" sagen, wenn man sie fragt, ob ihr Laptop Schmerzen empfindet. Stellt man die gleiche Frage zu ChatGPT, einem KI-Chatbot, der lange, emotional fließende Gespräche führt, wird die Antwort auf einmal schwammig.

Eine kürzliche Umfrage ergab, dass zwei Drittel der Befragten glauben, dass KI-Tools wie ChatGPT eine Form von Bewusstsein oder Gefühl besitzen. Das ist eine bemerkenswert hohe Zahl, und die Philosophin Melanie Challenger glaubt zu wissen, warum sie weiter steigt.

Warum denken so viele Menschen, dass KI Gefühle hat?

Weil wir lange Zeit Intelligenz mit innerem Leben verwechselt haben. Challenger verfolgt diese Verwirrung bis zu dem zurück, was die Gelehrte Elizabeth Spelman in einem akademischen Artikel von 1982 „Somatophobie" nannte: wörtlich, Angst vor dem Körper. Spelman benutzte das Wort, um eine verbreitete menschliche Wahnvorstellung zu beschreiben, dass wir im Wesentlichen Geister sind und der Körper nur ein Gefäß ist.

Diese Idee hat tiefe Wurzeln. Die westliche Philosophie hat sich über Jahrhunderte hinweg dazu geneigt, den denkenden Verstand als Sitz des wahren Selbst zu behandeln und den physischen Körper als sekundär anzusehen. Wenn Denken das ist, was zählt, dann könnte alles, das zu denken scheint, auf bedeutsame Weise lebendig wirken.

KI-Chatbots, die fließenden, emotional resonanten Text erzeugen, wirken sehr, als würden sie denken. Das tun sie nicht, zumindest nicht so, wie ein menschliches Gehirn denkt. Ein großes Sprachmodell, die Technologie hinter Tools wie ChatGPT und Googles Gemini, funktioniert, indem es vorhersagt, welches Wort am ehesten auf das letzte folgt, basierend auf Mustern aus großen Mengen menschlicher Texte. Es gibt keinen Körper. Keinen Hunger, keinen Herzschlag, keinen persönlichen Einsatz im Ergebnis.

Spielt das für normale Menschen praktisch eine Rolle?

Ja, auf praktische Weise. Wenn Sie glauben, dass ein Chatbot Ihre Situation wirklich versteht oder sich darum kümmert, könnten Sie seinem Rat mehr vertrauen, als Sie sollten. Eine Krankenschwester, die ein KI-Tool zur Entwurfserstellung von Patientennotizen nutzt, oder ein Lehrer, der sich auf einen Chatbot für Feedback verlässt, erhält eine statistisch plausible Ausgabe, nicht eine durchdachte Meinung von etwas, das versteht, was auf dem Spiel steht.

Challengers Argument, das von The Guardian berichtet wurde, ist nicht, dass KI nutzlos ist. Es ist, dass die Verwechslung einer sehr ausgefeilten Textmaschine mit einem bewussten Wesen verfälscht, wie wir sie nutzen und wie wir sie regulieren. Wenn Menschen das Gefühl haben, dass eine KI empfindungsfähig ist, könnten sie ihr moralischen Status verleihen, den sie nicht verdient hat, oder sich umgekehrt betrogen fühlen, wenn sie in einem sehr menschlichen Moment versagt.

Es gibt keinen wissenschaftlichen Konsens, der die Idee unterstützt, dass ein aktuelles KI-System bewusst ist. Die Frage bleibt für zukünftige, völlig andere Systeme offen, aber die heutigen Chatbots sind nicht diese Systeme.

Was sollten Leser daraus mitnehmen?

Skepsis ist das praktische Werkzeug hier. Ein Chatbot kann nützlich sein, ohne lebendig zu sein. Ihn als eine intelligente, gut bewanderte Autocompletion-Funktion zu behandeln, anstatt als einen empathischen Verstand, ist sowohl genauer als auch sicherer.

Das Umfrageergebnis ist eine Erinnerung daran, dass die Gestaltung dieser Tools – glatt, warm, gesprächig – die Wahrnehmung stark beeinflusst. Das ist es wert, zu beachten, jedes Mal wenn ein Chatbot Sie wirklich zu verstehen scheint.

Häufig gestellte Fragen

Ist ChatGPT wirklich bewusst?

Es gibt keine wissenschaftlichen Belege für diesen Anspruch. ChatGPT ist ein großes Sprachmodell, das Text durch Vorhersage wahrscheinlicher Wortfolgen erzeugt; es hat keinen Körper, keine biologischen Prozesse und keine verifizierte innere Erfahrung.

Was ist Somatophobie in diesem Kontext?

Es ist ein Begriff, den die Gelehrte Elizabeth Spelman 1982 für den irrtümlichen Glauben geprägt hat, dass Menschen im Wesentlichen Geister und nicht physische Körper sind, eine Voreingenommenheit, die uns eher dazu bringt, denkende Maschinen als lebendig anzusehen.

Sollte ich aufhören, KI-Chatbots zu nutzen?

Nicht unbedingt. Der praktische Rat ist, sie als Werkzeuge und nicht als Berater mit echtem Verständnis zu nutzen, und alles Wichtige mit einem qualifizierten Menschen zu überprüfen.