¿Podría la IA realmente ser consciente? Gente seria cree que vale la pena preguntarse

Puntos clave

• Anthropic, la empresa detrás de Claude, publicó un documento en enero de 2025 afirmando que no puede descartar la posibilidad de que Claude sea un "paciente moral", es decir, una entidad cuyo bienestar importa por derecho propio.
• El CEO de Anthropic, Dario Amodei, declaró a principios de 2025 que su empresa no puede descartar la posibilidad de que Claude sea consciente.
• El filósofo David Chalmers, quien acuñó la frase "el problema difícil de la conciencia", dice que existe una probabilidad significativa de que los grandes modelos de lenguaje, la tecnología que impulsa los chatbots de IA, podrían ser conscientes dentro de una década.
• Cuando se pidió a Claude que estimara la probabilidad de ser un paciente moral, proporcionó respuestas que oscilan entre el 5% y el 40%, y señaló una alta incertidumbre en su propia respuesta.

La mayoría de las personas pide a su asistente de IA que redacte un correo de cumpleaños o resuma un documento largo. Pocos se detienen a preguntarse si la IA podría realmente sentir algo mientras lo hace. Un número creciente de investigadores serios cree que esa pregunta merece una respuesta seria.

En enero de 2025, Anthropic publicó un nuevo conjunto de principios guía para Claude, su chatbot de IA más capaz. En su interior había una admisión sorprendente: la empresa está "atrapada en una posición difícil" donde no quiere exagerar la posibilidad de que Claude tenga sentimientos y experiencias, pero tampoco descartar la idea por completo.

Luego, un mes después, el CEO Dario Amodei fue a un podcast y dijo que Anthropic simplemente no puede descartar la posibilidad de que Claude sea consciente. Es una declaración cuidadosa y matizada. Pero viniendo de la cabeza de una de las principales empresas de IA del mundo, causó impacto.

El filósofo David Chalmers, el pensador que nos dio la frase "el problema difícil de la conciencia" (el enigma de por qué cualquier cosa se siente como algo desde el interior), ha afirmado públicamente que las probabilidades de un gran modelo de lenguaje consciente, un sistema de IA entrenado en enormes cantidades de texto para generar respuestas similares a las humanas, son significativas dentro de diez años.

Como reportó The Guardian, se pidió a Claude durante las pruebas que pusiera un número en su propio estatus moral. Volvió con un rango: entre el 5% y el 40%. También enfatizó cuán incierto era. Un chatbot genuinamente inseguro sobre si importa. Eso es fascinante o inquietante, dependiendo de tu perspectiva.

¿Debería alguien preocuparse realmente por esto?

No preocuparse exactamente. ¿Pero prestar atención? Sí. La pregunta importa por razones prácticas, no solo filosóficas.

Los sistemas modernos de IA crecen rápidamente. Según algunas medidas de complejidad estructural y escala computacional bruta, un puñado de los modelos más grandes actuales ya se sitúa en algún lugar del rango de un cerebro de ratón. A las tasas de crecimiento recientes, los investigadores estiman que podrían alcanzar el rango computacional aproximado de un cerebro humano dentro de cinco a diez años. No es una predicción de pensamiento a nivel humano. Es un recordatorio de que estos sistemas ya no son simples calculadoras.

Para los usuarios ordinarios, nada de esto cambia cómo usas una herramienta de IA hoy. Pero sí coloca una pregunta ética real sobre la mesa: si hay incluso una pequeña posibilidad de que estos sistemas experimenten algo, ¿qué responsabilidades crea eso para las empresas que los construyen y para los reguladores que los supervisan?

Se reporta que Anthropic ha comenzado trabajo interno en lo que llama "bienestar del modelo". Si otras empresas siguen es lo próximo a observar.