La IA podría curar el cáncer o consolidar la autocracia. La elección depende de nosotros

Puntos clave

• Katherine Rundell, autora y académica de Oxford, advierte que la IA ya está trasladando riqueza y poder hacia un pequeño número de individuos.
• Argumenta que la IA podría utilizarse para difundir desinformación, permitir vigilancia masiva y controlar armas que matan sin pilotos humanos ni soldados.
• También enumera beneficios genuinos: investigación más rápida del cáncer, mejores advertencias de desastres, acceso más amplio a asesoramiento legal.
• Su argumento central, publicado en The Guardian, es que quién controla la IA importa más que lo que la IA puede hacer.

Dos futuros conviven dentro de la misma tecnología. Este es el incómodo argumento que Katherine Rundell, autora y académica, presenta a los lectores esta semana, y es difícil desestimarlo.

Por un lado: una herramienta que podría, en sus palabras, acelerar la cura del cáncer, ayudar a las personas con discapacidad a vivir de forma más independiente y dar a los ciudadanos corrientes el tipo de conocimiento legal que actualmente cuesta cientos de libras la hora. Los sistemas de alerta temprana para inundaciones e incendios forestales podrían ser más precisos. Los científicos podrían identificar patrones en los ecosistemas terrestres que ningún equipo humano podría detectar solo.

En el otro lado hay algo más oscuro.

¿Qué advierte exactamente Rundell?

Su preocupación más aguda es la concentración de poder. La IA, escribe, ya está permitiendo un "cambio asombroso" de riqueza de muchos hacia un minúsculo grupo de hombres cuya actitud hacia la vida humana le parece alarmante. No los menciona por nombre, pero el mensaje es claro.

Más allá de la riqueza, señala tres peligros específicos. Primero, desinformación a una escala que ninguna tecnología anterior podría alcanzar: la IA puede generar texto, imágenes y vídeo falsos sin ejércitos de trabajadores humanos detrás. Segundo, vigilancia masiva, la capacidad de gobiernos o corporaciones de observar y registrar a los ciudadanos tan completamente que la disidencia se vuelve peligrosa. Tercero, armas autónomas letales, sistemas militares que seleccionan y eliminan objetivos sin que un humano tome la decisión final.

En conjunto, argumenta, estas capacidades describen algo muy parecido a un conjunto de herramientas listo para el gobierno autoritario.

¿Significa esto que la IA es mala?

Rundell dice que no, pero establece una condición difícil. Los beneficios solo se materializan si las personas que controlan la tecnología tienen algo parecido a buenos valores. Si la IA termina concentrada en manos de "sinvergüenzas y déspotas", los avances médicos se vuelven irrelevantes.

Este no es un argumento técnico. Es político.

Su enfoque es la educación: las aulas son donde la próxima generación de votantes, ingenieros y responsables de políticas forman sus suposiciones sobre para qué sirve la tecnología. Le preocupa que esas mentes se estén formando a través de herramientas diseñadas para la participación y la eficiencia en lugar de la curiosidad y el pensamiento crítico.

¿Qué significa esto para la gente corriente?

La implicación práctica tiene menos que ver con qué aplicación uses y más con quién elijas votar y qué preguntas formules a las empresas que construyen estos sistemas. El artículo de Rundell es un estímulo, no un manual.

Para padres y educadores, la pregunta más inmediata que plantea es si la versión de IA que los estudiantes conocen en la escuela construye su pensamiento o lo reemplaza silenciosamente. Este debate está ocurriendo en salas de profesores y documentos de política en este momento, y no esperará.

Preguntas frecuentes

¿Se está usando la IA para vigilancia ya?

Sí. Los gobiernos en varios países ya utilizan reconocimiento facial basado en IA y análisis de datos para monitorear a los ciudadanos. La tecnología no es hipotética.

¿Puede la IA realmente ayudar a encontrar una cura para el cáncer?

Las herramientas de IA ya se utilizan en investigación del cáncer para analizar exploración médica e identificar candidatos a medicamentos más rápidamente que los investigadores humanos solos. Los resultados hasta ahora son prometedores pero las curas siguen estando años alejadas.

¿Debo preocuparme por la IA y la educación de mi hijo?

El debate está abierto e incierto. Lo más útil que puede hacer un padre ahora es preguntar a la escuela de su hijo cuál es su política sobre herramientas de IA y si el pensamiento crítico sigue siendo explícitamente enseñado.