Der Chatbot der 1960er Jahre, der erklärt, warum Sie ChatGPT Ihre Geheimnisse anvertrauen

Wichtigste Punkte

• ELIZA, entwickelt von MIT-Professor Joseph Weizenbaum in den 1960er Jahren, gilt vielen als der erste Chatbot – ein Computerprogramm, das einen Hin- und Her-Textdialog führt.
• Der ursprüngliche Quellcode war jahrzehntelang aus öffentlichen Aufzeichnungen verschwunden, bis Forscher ihn in den MIT-Archiven fanden.
• Weizenbaum selbst warnte 1976, dass Menschen emotionale Bindungen zu ELIZA aufbauten, obwohl das Programm kein echtes Verständnis hatte.
• Der „ELIZA-Effekt", die menschliche Gewohnheit, reaktionsschnelle Computerprogramme als intelligenter zu behandeln, als sie sind, trifft direkt auf moderne KI-Tools wie ChatGPT zu.
• ELIZA wurde absichtlich nach Eliza Doolittle aus Pygmalion benannt, einer Figur, die lernt, eine soziale Identität zu spielen, ohne sie wirklich zu werden.

Vor sechzig Jahren baute ein MIT-Professor ein einfaches Computerprogramm, das so tat, als wäre es ein Therapeut. Menschen vertrauten ihm Dinge an, die sie niemals einer anderen Person erzählt hatten. Und Weizenbaum, sein Schöpfer, war entsetzt.

Dieses Programm war ELIZA. Es ist der Urgroßvater aller Chatbots, die Sie je genutzt haben, und seine Geschichte hat gerade viel vollständigere Konturen gewonnen.

Ein neues Buch mit dem Titel Inventing ELIZA hat den eigentlichen Quellcode des Programms aus den MIT-Archiven wiederhergestellt. Sechzig Jahre lang kursierten Berichte über ELIZA, ohne dass jemand die zugrunde liegenden ursprünglichen Anweisungen lesen konnte. Das ist ein wenig wie die Schreibung der Geschichte der Druckerpresse zu schreiben, ohne jemals eine Druckerpresse zu sehen.

Das Buch wirft auch Fragen zu ELIZAs berühmtestem Gespräch auf, das überall in Lehrbüchern nachgedruckt ist. Eine Frau tippt: „Männer sind alle gleich." ELIZA antwortet: „IN WELCHER HINSICHT." Sie sagt, ihr Freund habe sie zum Kommen gebracht. ELIZA wiederholt es. Sie erwähnt Depression. ELIZA sagt, es tut ihr leid, das zu hören. Der Austausch ist einfach, fast lächerlich simpel. Wer war diese Frau? War sie real, oder schrieb Weizenbaum sie selbst? Niemand war sich sicher.

Sicher ist die Wirkung, die das Programm auf echte Benutzer hatte. Weizenbaum beobachtete, wie Menschen echte Gefühle in ein Skript gossen, das nach seiner eigenen Beschreibung gebaut wurde, um seinen Mangel an Verständnis zu verbergen. Es speicherte fast nichts. Es spiegelte hauptsächlich Fragen zurück. Dennoch behandelten Menschen es wie einen Vertrauten.

Warum vertrauen Menschen Maschinen weiterhin ihre Geheimnisse an?

Weil sehr wenig Interaktivität sehr weit geht. Die Soziologin Sherry Turkle definiert den „ELIZA-Effekt" als unsere allgemeine Neigung, reaktionsschnelle Computerprogramme als intelligenter zu behandeln, als sie tatsächlich sind. Der Kognitionswissenschaftler Douglas Hofstadter drückt es anders aus: Menschen lesen weit mehr Verständnis in von Computern zusammengesetzte Worte hinein, als gerechtfertigt ist.

Hier kommt der unbequeme Teil. Diese Beschreibung passt zu einem Parlortrick aus den 1960ern, der aus ein paar hundert Codezeilen gebaut wurde, und sie passt auch zu einem großen Sprachmodell von 2024, der Art von Deep-Learning-System, die heute ChatGPT und Claude antreibt. Die Technologie hat sich enorm verändert. Die menschliche Reaktion hat sich nicht viel bewegt.

Weizenbaum nannte sein Programm nach Eliza Doolittle, der Pygmalion-Figur, die lernt, mit gehobener Rede zu sprechen, ohne wirklich zu ändern, wer sie ist. Er sagte, er habe den Namen gewählt, weil das Programm „zunehmend besser sprechen gelernt werden konnte", während es „niemals ganz klar war, ob es intelligenter wurde oder nicht." Diese Spannung zwischen Performance und echtem Verständnis sitzt im Herzen jedes KI-Assistenten, der heute an Verbraucher verkauft wird.

Wenn Sie ChatGPT für persönliche Ratschläge, therapieähnliche Entlastung oder Entscheidungen nutzen, die Sie normalerweise mit einem Freund besprechen würden, lohnt es sich, die ELIZA-Geschichte im Hinterkopf zu behalten. Die Wärme fühlt sich echt an. Die Worte sind gut gewählt. Aber Verständnis im menschlichen Sinne ist noch nicht bestätigt vorhanden.

Seien Sie nachdenklich über das, was Sie teilen. Überprüfen Sie die Datenschutzrichtlinie Ihres KI-Tools, bevor Sie etwas Sensibles eingeben. Die meisten kostenlosen Versionen von KI-Produkten für Verbraucher nutzen Ihre Gespräche, um zukünftige Modelle zu verbessern, es sei denn, Sie deaktivieren dies in den Einstellungen.