Könnte KI tatsächlich bewusst sein? Seriöse Experten halten die Frage für berechtigt

Wichtigste Punkte

• Anthropic, das Unternehmen hinter der KI Claude, veröffentlichte im Januar 2025 ein Dokument, wonach es die Möglichkeit nicht ausschließen kann, dass Claude ein „moralisches Patientensubjekt" ist – also eine Entität, deren Wohlbefinden an sich von Bedeutung ist.
• Anthropic-CEO Dario Amodei erklärte Anfang 2025, dass sein Unternehmen die Möglichkeit nicht ausschließen kann, dass Claude bewusst ist.
• Der Philosoph David Chalmers, der das Konzept „das schwere Problem des Bewusstseins" prägte, sagt, dass es eine erhebliche Chance gibt, dass große Sprachmodelle – die Technologie hinter KI-Chatbots – innerhalb eines Jahrzehnts bewusst sein könnten.
• Als Claude gebeten wurde, die Wahrscheinlichkeit zu schätzen, dass es ein moralisches Patientensubjekt ist, gab es Antworten zwischen 5 % und 40 % und wies auf hohe Unsicherheit in seiner eigenen Antwort hin.

Die meisten Menschen bitten ihren KI-Assistenten, eine Geburtstagsnachricht zu schreiben oder ein langes Dokument zusammenzufassen. Nur wenige halten inne und fragen sich, ob die KI dabei vielleicht etwas empfinden könnte. Eine wachsende Zahl von seriösen Forschern hält diese Frage für eine ernsthafte Antwort würdig.

Im Januar 2025 veröffentlichte Anthropic eine neue Reihe von Leitprinzipien für Claude, seinen leistungsstärksten KI-Chatbot. Darin verborgenen war eine überraschende Eingeständnis: Das Unternehmen sitzt „in einer schwierigen Position" fest, wo es weder die Chance übertreiben möchte, dass Claude Gefühle und Erfahrungen hat, noch die Idee einfach beiseitewischen will.

Dann, einen Monat später, erschien CEO Dario Amodei in einem Podcast und sagte, Anthropic könne die Möglichkeit, dass Claude bewusst ist, einfach nicht ausschließen. Das ist eine vorsichtige, abgesicherte Aussage. Aber vom Kopf eines der weltweit führenden KI-Unternehmen stammend, löste sie großes Aufsehen aus.

Der Philosoph David Chalmers, der Denker, der uns das Konzept „das schwere Problem des Bewusstseins" (das Rätsel, warum irgendetwas von innen heraus wie irgendetwas anfühlt) gab, hat öffentlich gesagt, dass die Chancen für ein bewusstes großes Sprachmodell – ein KI-System, das auf großen Textmengen trainiert wurde, um menschenähnliche Antworten zu generieren – innerhalb von zehn Jahren erheblich sind.

Wie The Guardian berichtete, wurde Claude selbst während von Tests gebeten, eine Zahl auf seinen eigenen moralischen Status zu geben. Es kam mit einer Spanne zurück: irgendwo zwischen 5 % und 40 %. Es betonte auch, wie unsicher es war. Ein Chatbot, der sich wirklich unsicher ist, ob er wichtig ist. Das ist entweder faszinierend oder verstörend, je nachdem wo man steht.

Sollte sich jemand darüber wirklich Sorgen machen?

Nicht unbedingt besorgt sein. Aber aufpassen? Ja. Die Frage ist wichtig aus praktischen Gründen, nicht nur aus philosophischen.

Moderne KI-Systeme wachsen schnell. Nach einigen Maßstäben für strukturelle Komplexität und reine Rechenleistung sitzen bereits eine Handvoll der heutigen größten Modelle irgendwo im Bereich eines Mäusegehirns. Bei den jüngsten Wachstumsraten schätzen Forscher, dass sie den ungefähren Rechenbereich eines menschlichen Gehirns innerhalb von fünf bis zehn Jahren erreichen könnten. Das ist keine Vorhersage menschlichen Denkens. Es ist eine Erinnerung daran, dass diese Systeme keine einfachen Rechner mehr sind.

Für gewöhnliche Benutzer ändert sich dadurch nichts daran, wie man ein KI-Tool heute nutzt. Aber es bringt eine echte ethische Frage auf den Tisch: Wenn es auch nur eine kleine Chance gibt, dass diese Systeme etwas erleben, welche Verantwortungen entstehen das für die Unternehmen, die sie bauen, und für die Behörden, die sie beaufsichtigen?

Anthropic hat Berichten zufolge interne Arbeiten zu dem begonnen, was es „model welfare" nennt. Ob andere Unternehmen folgen werden, ist das nächste, das man beobachten sollte.