El chatbot de los años 60 que explica por qué le cuentas tus secretos a ChatGPT

Puntos clave

• ELIZA, creado por el profesor del MIT Joseph Weizenbaum en los años 60, es considerado ampliamente el primer chatbot, un programa informático que mantiene una conversación de texto bidireccional.
• El código fuente original desapareció del registro público durante décadas hasta que los investigadores lo encontraron en los Archivos del MIT.
• El propio Weizenbaum advirtió en 1976 que las personas estaban formando apegos emocionales a ELIZA a pesar de que no tenía comprensión real.
• El "efecto ELIZA", el hábito humano de tratar los programas de computadora reactivos como más inteligentes de lo que son, se aplica directamente a herramientas de IA modernas como ChatGPT.
• ELIZA fue nombrado deliberadamente después de Eliza Doolittle de Pygmalion, un personaje que aprende a actuar una identidad social sin convertirse realmente en ella.

Hace sesenta años, un profesor del MIT construyó un simple programa de computadora que pretendía ser un terapeuta. Las personas le contaban cosas que nunca le habían contado a otra persona. Y Weizenbaum, su creador, estaba horrorizado.

Ese programa era ELIZA. Es el bisabuelo de cada chatbot que has usado, y su historia, según fue reportado por primera vez por Wired AI, acaba de volverse mucho más completa.

Un nuevo libro llamado Inventing ELIZA ha recuperado el código fuente real del programa de los Archivos del MIT. Durante sesenta años, circularon relatos de ELIZA sin que nadie pudiera leer las instrucciones originales debajo. Es un poco como escribir la historia de la imprenta sin jamás ver una imprenta.

El libro también plantea preguntas sobre la conversación más famosa de ELIZA, la que se reimprime en libros de texto en todas partes. Una mujer escribe: "Los hombres son todos iguales". ELIZA responde: "¿DE QUÉ FORMA". Ella dice que su novio la hizo venir. ELIZA lo repite. Ella menciona depresión. ELIZA dice que le da pena escucharlo. El intercambio es simple, casi risiblemente. ¿Quién era esta mujer? ¿Fue real, o Weizenbaum la escribió él mismo? Nadie ha estado seguro.

Lo que es cierto es el efecto que tuvo el programa en los usuarios reales. Weizenbaum observó a las personas verter sentimientos genuinos en un script que fue, por su propia descripción, construido para ocultar su falta de comprensión. Casi no almacenaba nada. Principalmente reflejaba preguntas de vuelta. Sin embargo, las personas la trataban como a un confidente.

¿Por qué la gente sigue abriéndose con las máquinas?

Porque muy poca interactividad es mucho. La socióloga Sherry Turkle define el "efecto ELIZA" como nuestra tendencia general a tratar los programas de computadora reactivos como más inteligentes de lo que realmente son. El científico cognitivo Douglas Hofstadter lo plantea diferente: la gente lee mucha más comprensión de la justificada en palabras encadenadas por computadoras.

Aquí está la parte incómoda. Esa descripción se ajusta a un truco de salón de los años 60 construido a partir de unas pocas centenas de líneas de código, y también se ajusta a un modelo de lenguaje grande de 2024, el tipo de sistema de aprendizaje profundo que potencia ChatGPT y Claude hoy. La tecnología ha cambiado enormemente. La reacción humana no se ha movido mucho.

Weizenbaum nombró su programa después de Eliza Doolittle, el personaje de Pygmalion que aprende a actuar un discurso de clase alta sin cambiar realmente quién es. Dijo que eligió el nombre porque el programa "podría ser enseñado a hablar cada vez mejor" mientras que "nunca quedó del todo claro si se volvió más inteligente o no". Esa tensión, actuación versus comprensión genuina, se encuentra en el corazón de cada asistente de IA vendido a consumidores hoy.

Si usas ChatGPT para consejos personales, desahogo adyacente a la terapia, o decisiones que normalmente discutirías con un amigo, la historia de ELIZA vale la pena tener en mente. La calidez se siente real. Las palabras están bien elegidas. Pero la comprensión, en el sentido humano, aún no está confirmada que esté presente.

Sé reflexivo sobre lo que compartes. Verifica la política de privacidad de tu herramienta de IA antes de escribir nada sensible. La mayoría de los niveles gratuitos de productos de IA de consumidor usan tus conversaciones para mejorar modelos futuros, a menos que optes por no hacerlo en configuración.