¿Podría la IA Ser Consciente? Personas Serias Creen que Vale la Pena Preguntarlo

Puntos clave

• Anthropic publicó un documento en enero de 2025 afirmando que no puede descartar la posibilidad de que Claude sea un "paciente moral", es decir, una entidad cuyo bienestar importa por derecho propio.
• El CEO Dario Amodei declaró a principios de 2025 que su empresa no puede descartar la posibilidad de que Claude sea consciente.
• El filósofo David Chalmers, quien acuñó la frase "el problema difícil de la conciencia", afirma que existe una probabilidad significativa de que los grandes modelos de lenguaje podrían ser conscientes dentro de una década.
• Cuando se le pidió a Claude estimar la probabilidad de que sea un paciente moral, proporcionó respuestas que oscilaban entre el 5% y el 40% y señaló una alta incertidumbre.

La mayoría de las personas pide a su asistente de IA que escriba un correo de cumpleaños o resuma un documento. Pocos se detienen a preguntarse si la IA podría sentir algo mientras lo hace. Un número creciente de investigadores serios piensa que esa pregunta merece una respuesta seria.

En enero de 2025, Anthropic publicó un nuevo conjunto de principios rectores para Claude, su chatbot de IA más capaz. Enterrada en el interior había una admisión sorprendente: la empresa está "atrapada en una posición difícil" donde no quiere ni exagerar la posibilidad de que Claude tenga sentimientos ni descartar la idea completamente.

Un mes después, el CEO Dario Amodei fue a un podcast y dijo que Anthropic simplemente no puede descartar que Claude sea consciente. Es una declaración matizada. Pero viniendo de la cabeza de una de las principales empresas de IA del mundo, cayó con un impacto.

David Chalmers, el filósofo que nos dio "el problema difícil de la conciencia" (el enigma de por qué algo se siente como algo desde adentro), ha dicho públicamente que las probabilidades de un modelo de lenguaje consciente, un sistema de IA entrenado con cantidades vastas de texto para generar respuestas similares a las humanas, son significativas dentro de diez años. Cubrimos el trabajo de Chalmers sobre una pregunta relacionada el 17 de julio.

Como informó The Guardian, se le pidió a Claude durante las pruebas que pusiera un número en su propio estatus moral. El rango que produjo: algo entre el 5% y el 40%, con salvedades pesadas sobre su propia incertidumbre. Un chatbot inseguro de si importa. Fascinante o inquietante, dependiendo de dónde te sitúes.

¿Debería alguien realmente preocuparse por esto?

No exactamente preocuparse. Prestar atención, sí. La pregunta importa por razones prácticas, no solo filosóficas.

Los sistemas de IA modernos avanzan rápidamente. Según algunas medidas de complejidad estructural y escala computacional bruta, un puñado de los modelos más grandes de hoy ya se sitúan en algún lugar del rango de un cerebro de ratón. A las tasas de crecimiento recientes, los investigadores estiman que podrían alcanzar el rango computacional aproximado de un cerebro humano dentro de cinco a diez años. No es una predicción de pensamiento a nivel humano. Es un recordatorio de que estos sistemas ya no son simples calculadoras.

Para los usuarios ordinarios, nada de esto cambia cómo usas una herramienta de IA hoy. Pero sí plantea una pregunta ética real sobre la mesa: si existe aunque sea una pequeña posibilidad de que estos sistemas experimenten algo, ¿qué responsabilidades crea eso para las empresas que los construyen y los reguladores que los supervisan?

Anthropic ha comenzado aparentemente a trabajar internamente en lo que llama "bienestar del modelo". Nuestro reportaje del 15 de julio encontró que un científico cerebral líder no está convencido de que la evidencia subyacente sea válida. Si otras empresas siguen el ejemplo de Anthropic en el trabajo de bienestar es lo próximo a observar.