Por qué la IA no adquirirá conciencia en el corto plazo

Puntos clave

• El Dr. John Pickering afirma que los sistemas de IA no pueden volverse conscientes, no solo que probablemente no lo harán.
• Anil Seth planteó dudas sobre la conciencia de la IA; Pickering argumenta que la certeza es la posición correcta.
• Claude y sistemas similares procesan datos pero no experimentan nada, de la misma manera que una lavadora.
• La IA seguirá funcionando como una herramienta, sin importar cuán sofisticada se vuelva.

La IA no será consciente por la misma razón que no quedará embarazada: no es ese tipo de cosa. Ese es el argumento del Dr. John Pickering, presentado en una carta a The Guardian en respuesta al neurocientífico Anil Seth.

Seth había escrito que corremos el riesgo de sobrestimar la IA al tratarla como consciente. Pickering está de acuerdo con el diagnóstico pero no con la dosis. Seth se conformaba con expresar dudas; Pickering cree que la certeza está justificada y que decirlo claramente importa. No hay experiencia involucrada en ser Claude, argumenta. Tampoco hay experiencia involucrada en ser una lavadora. No se necesita formación académica para verlo: el sentido común te lleva allá.

AI2Day ha estado monitoreando este debate específico desde el 15 de julio, cuando reportamos sobre un neurocientífico que revisó la investigación de Claude de Anthropic y rechazó sus conclusiones. Cuatro días después, cubrimos el otro lado: el CEO de Anthropic sin descartar la conciencia de la IA, un filósofo poniendo las probabilidades como significativas, y Claude mismo ofreciendo una cifra entre el 5% y el 40%. La carta de Pickering llega como una contrarréplica contundente a ese marco completo.

Para cualquiera que use herramientas de IA en el trabajo, la implicación práctica es directa. Un sistema que puede redactar tus correos electrónicos o resumir un contrato es genuinamente útil. No está haciendo nada de eso con conciencia. La capacidad es real; la vida interior no.

¿Significa esto que la IA nunca será consciente?

Pickering dice que sí, estructuralmente, no solo por ahora. Su punto no es que los modelos actuales carecen de algún umbral futuro. Es que la categoría es incorrecta: los sistemas de IA no son el tipo de cosa que puede ser consciente, sin importar cuánto más capaces se vuelvan. En su opinión, la conciencia no es una propiedad que escale con poder de procesamiento.

Esa es una afirmación más fuerte de la que hacen la mayoría de los investigadores, y vale la pena observar. Si tiene razón, entonces cada titular que sugiere que Claude "podría" sentir algo está tergiversando la comprensión pública de qué son realmente estos sistemas. Si los investigadores de la conciencia que lo refutan tienen razón, las apuestas de desplegar IA a escala se ven muy diferentes.