Dos tercios de las personas creen que ChatGPT es consciente. Un filósofo dice que nos hemos estado engañando durante décadas.

Puntos clave

• Dos tercios de las personas encuestadas creen que herramientas de IA como ChatGPT, un chatbot basado en texto creado por OpenAI, poseen alguna forma de consciencia o sentimiento.
• La académica feminista estadounidense Elizabeth Spelman acuñó el término "somatofobia" en un artículo de 1982 para describir la creencia de que los humanos son mentes en lugar de cuerpos.
• La filósofa y autora Melanie Challenger argumenta, escribiendo en The Guardian, que la IA moderna es la versión más poderosa de esa ilusión hasta ahora.
• Ningún sistema de IA actual ha demostrado tener sentimientos o consciencia en ningún sentido científicamente verificado.

La mayoría de las personas, si se les pregunta si su portátil siente dolor, dirían que no. Hagan la misma pregunta sobre ChatGPT, y de repente la respuesta se vuelve más confusa.

Una encuesta reciente encontró que dos tercios de los encuestados creen que herramientas de IA como ChatGPT tienen alguna forma de consciencia o sentimiento. La filósofa Melanie Challenger cree saber por qué.

¿Por qué tanta gente cree que la IA tiene sentimientos?

Porque hemos confundido durante mucho tiempo la inteligencia con la vida interior. Challenger rastrea la confusión a lo que la académica Elizabeth Spelman, en un artículo académico de 1982, llamó "somatofobia": literalmente, miedo al cuerpo. Spelman usó la palabra para describir una ilusión humana generalizada de que somos esencialmente mentes, y que el cuerpo es solo un recipiente.

La filosofía occidental, que se remonta a siglos, ha tratado la mente pensante como la sede del yo real y el cuerpo físico como algo secundario. Si el pensamiento es lo que importa, entonces cualquier cosa que parezca pensar podría parecer viva de una manera significativa.

Los chatbots de IA producen texto fluido y emocionalmente resonante que parece pensamiento. No lo es, no de la manera en que piensa un cerebro humano. Un modelo de lenguaje grande, la tecnología detrás de herramientas como ChatGPT y Gemini de Google, funciona prediciendo qué palabra sigue de manera más plausible a la anterior, basándose en patrones de grandes cantidades de escritura humana. No hay cuerpo. Sin hambre, sin latidos.

¿Importa esto realmente para las personas corrientes?

Sí, de formas prácticas. Si cree que un chatbot entiende genuinamente su situación, puede confiar más de lo que debería en su consejo. Una enfermera que usa una herramienta de IA para redactar notas de pacientes, o un maestro que confía en un chatbot para obtener comentarios, está obteniendo una salida estadísticamente plausible, no una opinión considerada de algo que comprende qué está en juego. Examinamos esta dinámica en nuestra historia del 24 de julio sobre la prueba de un profesor de Harvard para decidir cuándo la IA es realmente útil.

El argumento de Challenger, reportado por The Guardian, no es que la IA sea inútil. Es que confundir una máquina de texto sofisticada con un ser consciente distorsiona cómo la usamos y cómo la regulamos. Cuando las personas sienten que una IA es consciente, pueden otorgarle un estatus moral que no se ha ganado, o sentirse traicionadas cuando falla en un momento humano.

Ningún consenso científico respalda la idea de que algún sistema de IA actual sea consciente. La pregunta permanece abierta para sistemas futuros construidos sobre principios diferentes, pero los chatbots actuales no son esos sistemas.

¿Qué deben sacar los lectores de esto?

El escepticismo es la herramienta práctica aquí. Un chatbot puede ser útil sin estar vivo. Tratarlo como una función de autocompletado bien informada, en lugar de como una mente empática, es tanto más preciso como más seguro.

El resultado de la encuesta es un recordatorio de que el diseño de estas herramientas, suave, cálido, conversacional, moldea la percepción de manera poderosa. Vale la pena tenerlo en cuenta cada vez que un chatbot parece entenderte realmente.

Preguntas frecuentes

¿Es ChatGPT realmente consciente?

No hay evidencia científica que respalde esa afirmación. ChatGPT es un modelo de lenguaje grande que genera texto prediciendo secuencias de palabras probables; no tiene cuerpo, no tiene procesos biológicos, y no tiene experiencia interior verificada.

¿Qué es la somatofobia en este contexto?

Es un término acuñado por la académica Elizabeth Spelman en 1982 para la creencia errónea de que los humanos son esencialmente mentes en lugar de cuerpos físicos, un sesgo que nos hace más propensos a ver máquinas pensantes como vivas.

¿Debo dejar de usar chatbots de IA?

No necesariamente. El consejo práctico es usarlos como herramientas en lugar de como asesores con comprensión genuina, y verificar cualquier cosa importante con un humano calificado.