Dos tercios de las personas creen que ChatGPT es consciente. Un filósofo dice que nos hemos estado engañando durante décadas.

Puntos clave

• Dos tercios de las personas encuestadas en un estudio reciente creen que herramientas de IA como ChatGPT, un chatbot basado en texto creado por OpenAI, poseen alguna forma de consciencia o sentimiento.
• La estudiosa feminista estadounidense Elizabeth Spelman acuñó el término "somatofobia" en un artículo de 1982 para describir la creencia de que los humanos son mentes en lugar de cuerpos.
• La filósofa y autora Melanie Challenger argumenta, escribiendo en The Guardian, que la IA moderna es la versión más poderosa de esa ilusión hasta ahora.
• Ningún sistema de IA actual ha demostrado tener sentimientos, consciencia o experiencia vivida en ningún sentido científicamente verificado.

La mayoría de las personas, si se les preguntara si su computadora portátil siente dolor, dirían que no. Hágales la misma pregunta sobre ChatGPT, un chatbot de IA que mantiene conversaciones largas y emocionalmente fluidas, y de repente la respuesta se vuelve más confusa.

Una encuesta reciente encontró que dos tercios de los encuestados creen que herramientas de IA como ChatGPT poseen alguna forma de consciencia o sentimiento. Es un número sorprendente, y la filósofa Melanie Challenger cree que sabe por qué sigue aumentando.

¿Por qué tantas personas piensan que la IA tiene sentimientos?

Porque durante mucho tiempo hemos confundido la inteligencia con la vida interior. Challenger rastrea la confusión hasta lo que la estudiosa Elizabeth Spelman, en un artículo académico de 1982, llamó "somatofobia": literalmente, miedo al cuerpo. Spelman utilizó la palabra para describir una ilusión humana generalizada de que somos esencialmente mentes, y que el cuerpo es solo un recipiente.

Esa idea tiene raíces profundas. La filosofía occidental, a lo largo de siglos, ha tendido a tratar la mente pensante como la sede del yo real, y el cuerpo físico como algo secundario. Si lo que importa es pensar, entonces cualquier cosa que parezca pensar podría parecer viva de manera significativa.

Los chatbots de IA, que producen texto fluido y emocionalmente resonante, parecen pensar mucho. No lo hacen, al menos no de la manera en que piensa un cerebro humano. Un modelo de lenguaje grande, la tecnología detrás de herramientas como ChatGPT y Gemini de Google, funciona prediciendo qué palabra sigue más plausiblemente a la anterior, basándose en patrones aprendidos de grandes cantidades de escritura humana. No hay cuerpo. Sin hambre, sin latidos del corazón, sin interés en el resultado.

¿Importa esto realmente para la gente común?

Sí, de formas prácticas. Si crees que un chatbot realmente entiende o se preocupa por tu situación, podrías confiar en su consejo más de lo que deberías. Una enfermera que utiliza una herramienta de IA para ayudar a redactar notas de pacientes, o un maestro que se apoya en un chatbot para obtener retroalimentación, está obteniendo un resultado estadísticamente plausible, no una opinión considerada de algo que comprende lo que está en juego.

El argumento de Challenger, reportado por The Guardian, no es que la IA sea inútil. Es que confundir una máquina de texto muy sofisticada con un ser consciente distorsiona cómo la usamos y cómo la regulamos. Cuando las personas sienten que una IA es consciente, pueden otorgarle un estatus moral que no ha ganado, o, al contrario, sentirse traicionadas cuando fracasa en un momento muy humano.

Ningún consenso científico respalda la idea de que ningún sistema de IA actual sea consciente. La pregunta sigue siendo genuinamente abierta para sistemas futuros y muy diferentes, pero los chatbots de hoy no son esos sistemas.

¿Qué deberían tomar los lectores de esto?

El escepticismo es la herramienta práctica aquí. Un chatbot puede ser útil sin estar vivo. Tratarlo como una función de autocompletado inteligente y bien informado, en lugar de como una mente empática, es tanto más preciso como más seguro.

El resultado de la encuesta es un recordatorio de que el diseño de estas herramientas, suave, cálido, conversacional, moldea la percepción poderosamente. Vale la pena tener esto en mente cada vez que un chatbot parece realmente entenderte.

Preguntas frecuentes

¿Es ChatGPT realmente consciente?

Ninguna evidencia científica respalda esa afirmación. ChatGPT es un modelo de lenguaje grande que genera texto prediciendo secuencias de palabras probables; no tiene cuerpo, no tiene procesos biológicos y no tiene experiencia interior verificada.

¿Qué es la somatofobia en este contexto?

Es un término acuñado por la estudiosa Elizabeth Spelman en 1982 para la creencia errónea de que los humanos somos esencialmente mentes en lugar de cuerpos físicos, un sesgo que nos hace más propensos a ver máquinas pensantes como vivas.

¿Debo dejar de usar chatbots de IA?

No necesariamente. El consejo práctico es usarlos como herramientas en lugar de como asesores con comprensión genuina, y verificar cualquier cosa importante con un humano calificado.