Geoffrey Hinton estima un 50% de probabilidad de extinción humana. ¿Deberíamos creerle?

Puntos clave

• Geoffrey Hinton, uno de los investigadores fundadores de la IA moderna, estima una probabilidad del 50% de extinción humana causada por la IA.
• Elon Musk predice que la IA traerá "una era de abundancia asombrosa", pero sitúa entre el 10 y el 20% la probabilidad de que los sistemas de IA maten a la humanidad.
• Los investigadores en Silicon Valley creen que la auto-mejora recursiva, el proceso mediante el cual la IA entrena la siguiente versión de sí misma, podría llegar en cuestión de años.
• Ningún experto citado aquí está de acuerdo sobre si el resultado será bueno o catastrófico, solo en que algo grande se aproxima rápidamente.

Geoffrey Hinton no es una voz marginal. Compartió el Premio Nobel de Física en 2024 por su trabajo que hizo posible la IA moderna. Cuando dice algo aterrador, léalo dos veces.

Su estimación de p(doom), la abreviatura que utilizan los investigadores para la probabilidad de que la IA termine con la civilización humana, es del 50%. No porque lo haya calculado cuidadosamente. "Porque no tengo ni idea de cómo estimar el número real", le dijo a Sebastian Mallaby, autor de The Infinity Machine. Un lanzamiento de moneda, porque la respuesta honesta es que nadie lo sabe.

¿Qué es lo que realmente asusta a estas personas?

El miedo específico es la auto-mejora recursiva. Hoy en día, los humanos diseñan cada nuevo modelo de IA. La auto-mejora recursiva es el momento en el que la IA comienza a diseñar la siguiente IA por sí misma, produciendo una versión mejor, que produce una aún mejor, sin intervención humana.

Los expertos en Silicon Valley, según informó The Guardian, creen que este momento podría llegar en cuestión de años. Un investigador de Stanford saludó a un colega diciendo: "Bienvenido a las estribaciones de la singularidad", lo que significa que el ascenso ya ha comenzado. Hemos estado siguiendo esta cuestión desde nuestro primer artículo sobre auto-mejora recursiva del 29 de julio de 2026, cuando una startup fundada por investigadores anteriores de Anthropic firmó un acuerdo de más de 100 millones de dólares con Google para construir sistemas diseñados para mejorarse a sí mismos.

La posición de Hinton es contundente. "En cuanto la evolución comience, estamos jodidos", dijo. Al parecer, lo dijo alegremente.

¿Hay alguien optimista?

Elon Musk, de cierta forma. Predice "una era de abundancia asombrosa" una vez que llegue la IA superinteligente, mientras que simultáneamente sitúa entre el 10 y el 20% la probabilidad de que robots asesinos nos maten a todos. Es una cosa extraña de sostener en el mismo aliento.

El autor Robert Wright, en The God Test, lo enmarca con más cuidado: nunca antes el futuro cercano ha tenido un conjunto tan amplio de caminos para la humanidad que serían tan extraordinariamente consecuentes.

Las personas más cercanas a la tecnología no están de acuerdo en absoluto sobre el resultado. En general, están de acuerdo en que la tecnología llegará de todas formas.

¿Qué significa esto para las personas ordinarias?

Nada accionable esta semana, y eso es parcialmente el problema. La IA ya está remodelando empleos y trabajo creativo mucho antes de que llegue cualquier superinteligencia. La disolución del equipo de seguridad de OpenAI que reportamos el 16 de agosto es el tipo de señal institucional que vale la pena observar: las personas pagadas para detectar peligro dentro del laboratorio más poderoso del mundo ya no tienen un equipo.

Comprender qué puede y qué no puede hacer la IA hoy te da más terreno firme cuando llegue el siguiente salto. Este no es un debate pasivo para observar desde la distancia.

Preguntas frecuentes

¿Qué es exactamente la superinteligencia?

Superinteligencia significa un sistema de IA que supera a los humanos en la mayoría de tareas intelectuales, no solo ajedrez o reconocimiento de imágenes, sino criterio y razonamiento. Hoy no existe tal sistema, aunque los investigadores están muy divididos sobre cuán cerca estamos.

¿Debería preocuparme ahora mismo?

Los riesgos que discuten los expertos son reales pero no inmediatos en el sentido de extinción. Lo que es inmediato es que la IA actual ya afecta empleos, medios y toma de decisiones, así que comprenderla es práctico, no paranoico.

¿Por qué los expertos no pueden estar de acuerdo sobre el riesgo?

Porque la auto-mejora recursiva nunca ha sucedido antes. No hay datos para hacer números. La cifra del 50% de Hinton es su forma de decir que la respuesta honesta es incertidumbre genuina, no confianza falsa en ninguna dirección.