Zwei Drittel der Menschen denken, ChatGPT sei bewusst. Ein Philosoph sagt, wir täuschen uns seit Jahrzehnten selbst.

Wichtigste Punkte

• Zwei Drittel der befragten Menschen glauben, dass KI-Tools wie ChatGPT, ein textbasierter Chatbot von OpenAI, eine Form von Bewusstsein oder Empfindung besitzen.
• Die amerikanische feministische Wissenschaftlerin Elizabeth Spelman prägte 1982 in einem Artikel den Begriff „Somatophobie", um den Glauben zu beschreiben, dass Menschen Geister und nicht Körper sind.
• Die Philosophin und Autorin Melanie Challenger argumentiert in The Guardian, dass moderne KI die mächtigste Version dieser Illusion darstellt.
• Kein aktuelles KI-System hat in wissenschaftlich verifizierbarer Weise Gefühle oder Bewusstsein gezeigt.

Die meisten Menschen würden sagen, dass ihr Laptop keinen Schmerz empfindet. Stellen Sie dieselbe Frage zu ChatGPT, und plötzlich wird die Antwort unklar.

Eine aktuelle Umfrage ergab, dass zwei Drittel der Befragten glauben, dass KI-Tools wie ChatGPT eine Form von Bewusstsein oder Empfindung haben. Die Philosophin Melanie Challenger denkt, sie weiß, warum.

Warum denken so viele Menschen, dass KI Gefühle hat?

Weil wir lange Zeit Intelligenz mit innerem Leben verwechselt haben. Challenger führt die Verwirrung auf das zurück, was Wissenschaftlerin Elizabeth Spelman 1982 in einem akademischen Artikel „Somatophobie" nannte: buchstäblich, Angst vor dem Körper. Spelman verwendete das Wort, um eine weit verbreitete menschliche Täuschung zu beschreiben, wonach wir im Wesentlichen Geister sind und der Körper nur ein Behältnis ist.

Die westliche Philosophie behandelt seit Jahrhunderten den denkenden Verstand als den Sitz des wahren Selbst und den physischen Körper als sekundär. Wenn Denken das Wichtigste ist, könnte alles, das zu denken scheint, auf sinnvolle Weise lebendig wirken.

KI-Chatbots erzeugen fließenden, emotional resonanten Text, der wie Denken aussieht. Das ist er nicht, nicht so, wie ein menschliches Gehirn denkt. Ein großes Sprachmodell, die Technologie hinter Tools wie ChatGPT und Googles Gemini, funktioniert, indem es vorhersagt, welches Wort am wahrscheinlichsten auf das letzte folgt, gestützt auf Muster aus riesigen Mengen menschlichen Schreibens. Es gibt keinen Körper. Keinen Hunger, keinen Herzschlag.

Spielt das für normale Menschen tatsächlich eine Rolle?

Ja, auf praktische Weise. Wenn Sie glauben, dass ein Chatbot Ihre Situation wirklich versteht, könnten Sie seinem Rat mehr trauen, als Sie sollten. Eine Krankenschwester, die ein KI-Tool zur Erstellung von Patientennotizen nutzt, oder ein Lehrer, der sich auf einen Chatbot für Feedback verlässt, erhält eine statistisch plausible Ausgabe, nicht eine durchdachte Meinung von etwas, das versteht, was auf dem Spiel steht. Wir haben diese Dynamik in unserer Geschichte vom 24. Juli untersucht, in der es um einen Test eines Harvard-Professors geht, mit dem man entscheiden kann, wann KI tatsächlich nützlich ist.

Challengers Argument, das von The Guardian berichtet wird, ist nicht, dass KI nutzlos ist. Es ist, dass die Verwechslung einer ausgefeilten Textmaschine mit einem bewussten Wesen die Art verzerrt, wie wir sie nutzen und wie wir sie regulieren. Wenn Menschen das Gefühl haben, dass eine KI empfindungsfähig ist, könnte sie moralischen Status verleihen, den sie sich nicht verdient hat, oder sich betrogen fühlen, wenn sie in einem menschlichen Moment scheitert.

Es gibt keinen wissenschaftlichen Konsens, der die Idee stützt, dass ein aktuelles KI-System bewusst ist. Die Frage bleibt für zukünftige Systeme, die auf anderen Prinzipien aufgebaut sind, offen, aber die heutigen Chatbots sind diese Systeme nicht.

Was sollten Leser aus diesem Bericht mitnehmen?

Skepsis ist hier das praktische Werkzeug. Ein Chatbot kann nützlich sein, ohne lebendig zu sein. Es als gut gelesen Autovervollständigungs-Funktion zu behandeln, anstatt als einfühlsame Intelligenz, ist sowohl genauer als auch sicherer.

Das Umfrageergebnis ist eine Mahnung dafür, dass das Design dieser Tools – glatt, warm, gesprächig – die Wahrnehmung stark prägt. Das ist es wert, im Hinterkopf zu behalten, jedes Mal wenn ein Chatbot Sie wirklich zu verstehen scheint.

Häufig gestellte Fragen

Ist ChatGPT tatsächlich bewusst?

Es gibt keine wissenschaftlichen Belege für diese Behauptung. ChatGPT ist ein großes Sprachmodell, das Text durch Vorhersage wahrscheinlicher Wortfolgen erzeugt; es hat keinen Körper, keine biologischen Prozesse und keine verifizierten inneren Erfahrungen.

Was ist Somatophobie in diesem Kontext?

Es ist ein Begriff, den Wissenschaftlerin Elizabeth Spelman 1982 für den falschen Glauben prägte, dass Menschen im Wesentlichen Geister und nicht physische Körper sind, eine Voreingenommenheit, die uns eher dazu bringt, denkende Maschinen als lebendig zu sehen.

Sollte ich die Nutzung von KI-Chatbots einstellen?

Nicht unbedingt. Der praktische Rat lautet, sie als Werkzeuge zu nutzen und nicht als Berater mit echtem Verständnis, und alles Wichtige mit einem qualifizierten Menschen zu überprüfen.