La IA podría curar el cáncer o cimentar la autocracia. Qué camino tome depende de nosotros

Puntos clave

• Katherine Rundell, académica de Oxford y autora, advierte que la IA ya está desplazando la riqueza hacia un grupo diminuto de individuos.
• Sostiene que la IA permite la desinformación a escala sin precedentes, vigilancia masiva y armas autónomas letales.
• También ve beneficios reales: investigación del cáncer más rápida, alertas de desastres más precisas, acceso más económico a asesoría legal.
• Su argumento central, publicado en The Guardian, es que quién controla la IA importa más que lo que la IA puede hacer.

Dos futuros conviven dentro de la misma tecnología. Este es el argumento incómodo que Katherine Rundell presenta a los lectores esta semana, y es difícil descartarlo.

Por un lado: una herramienta que podría acelerar la investigación del cáncer, ayudar a las personas discapacitadas a vivir de forma más independiente y darles a los ciudadanos ordinarios el tipo de conocimiento legal que actualmente cuesta cientos de libras por hora. Las alertas de inundaciones e incendios forestales podrían ser más precisas. Los científicos podrían encontrar patrones en los ecosistemas terrestres que ningún equipo humano podría detectar por sí solo.

Del otro lado hay algo más oscuro.

¿Sobre qué exactamente advierte Rundell?

Su preocupación más aguda es la concentración del poder. La IA, escribe, ya está permitiendo un "cambio asombroso" de la riqueza de muchos hacia un pequeño grupo de hombres cuya actitud hacia la vida humana le parece alarmante. No los nombra, pero el punto queda claro.

Más allá de la riqueza, señala tres peligros. Desinformación a una escala que ninguna tecnología anterior podría igualar: la IA genera texto y video falsos sin ejércitos de trabajadores humanos. Vigilancia masiva, que otorga a gobiernos o corporaciones la capacidad de observar a los ciudadanos tan completamente que la disidencia se vuelve peligrosa. Y armas autónomas letales, sistemas militares que seleccionan y matan objetivos sin que un humano tome la decisión final.

En conjunto, argumenta, estas capacidades describen algo cercano a un kit listo para usar para el gobierno autoritario. La desinformación en particular es un hilo que hemos seguido desde el 31 de julio, cuando la UE se movió para exigir etiquetas en contenido generado por IA precisamente porque el problema se había vuelto lo suficientemente visible como para legislar.

¿Significa esto que la IA es mala?

Rundell dice que no, pero establece una condición difícil. Los beneficios solo se materializan si las personas que controlan la tecnología tienen algo parecido a buenos valores. Si la IA termina en manos de "criminales y déspotas", los avances médicos se vuelven irrelevantes.

No es un argumento técnico. Es uno político.

Su enfoque es la educación: las aulas son donde la siguiente generación de votantes y formuladores de políticas forman sus supuestos sobre para qué sirve la tecnología. Le preocupa que esas mentes estén siendo moldeadas por herramientas construidas para el compromiso y la eficiencia en lugar de la curiosidad y el pensamiento crítico. Dave Eggers hizo un argumento similar en julio cuando le dijo a 200 empleados de OpenAI que su chatbot está "silenciando una generación", y el argumento no se ha debilitado desde entonces.

Lo que más importa aquí es el encuadre, no la tecnología. El artículo de Rundell está siendo sobrevendido en algunos sectores como una advertencia catastrofista, pero realmente es un argumento de gobernanza vestido con lenguaje vívido. Lo que hay que observar: si la política educativa se pone al día antes de que los valores predeterminados se cierren.

¿Qué significa esto para la gente ordinaria?

La implicación práctica tiene menos que ver con qué app uses y más con quién votas y qué preguntas haces a las empresas que construyen estos sistemas.

Para los padres, la pregunta inmediata que plantea Rundell es si la versión de IA que los estudiantes conocen en la escuela desarrolla su pensamiento o silenciosamente lo reemplaza. Pregúntale a la escuela de tu hijo cuál es su política sobre herramientas de IA. Esa conversación no puede esperar.

Preguntas frecuentes

¿Se está utilizando realmente la IA para vigilancia?

Sí. Los gobiernos de varios países ya utilizan reconocimiento facial impulsado por IA y análisis de datos para monitorear a los ciudadanos. La tecnología no es hipotética.

¿Puede la IA realmente ayudar a encontrar una cura para el cáncer?

Las herramientas de IA ya se utilizan en la investigación del cáncer para analizar exploraciones médicas e identificar candidatos a fármacos más rápido que los investigadores humanos solos. Los resultados hasta ahora son prometedores pero las curas quedan años en el futuro.

¿Debo preocuparme por la IA y la educación de mi hijo?

El debate está activo. Pregúntale a la escuela de tu hijo si el pensamiento crítico sigue siendo explícitamente enseñado junto con cualquier herramienta de IA que haya adoptado.