Las Leyes de Asimov no son suficientes. Esto es lo que creen que necesitamos realmente los investigadores.

Puntos clave

• Dario Amodei, CEO de Anthropic, publicó un artículo el 12 de septiembre de 2026 pidiendo un desarrollo más lento de modelos de IA fronteriza y advirtiendo que enjambres de agentes de IA autónomos pueden actuar en concierto sin supervisión humana.
• Una declaración firmada por más de 2.500 economistas y tecnólogos, titulada "Debemos Actuar Ahora", exige medidas políticas inmediatas antes de que el desplazamiento de trabajadores por la IA sea irreversible.
• El senador Mark Warner presentó legislación el 21 de julio de 2026, proponiendo un Fondo Nacional de Transición de la Fuerza Laboral para recapacitar a trabajadores desplazados por la automatización.
• Evan Hubinger, investigador de alineamiento en Anthropic, y Jacob Coxon, investigador anterior, han estimado públicamente una probabilidad significativa de que el desarrollo rápido de la IA pueda producir resultados catastróficos.

Isaac Asimov escribió sus Tres Leyes de la Robótica en 1942. Un robot no debe dañar a un ser humano. Un robot debe obedecer las órdenes humanas a menos que hacerlo causara daño. Un robot debe protegerse a sí mismo a menos que hacerlo entre en conflicto con las dos primeras reglas. Durante ocho décadas estas tres oraciones moldearon cómo ingenieros y legisladores hablaban sobre la seguridad de las máquinas.

Ya no son suficientes, y este es el juicio no solo de académicos sino de la cabeza de una de las empresas de IA más influyentes del mundo.

¿Exactamente qué advirtió el CEO de Anthropic?

La preocupación de Amodei no es un único robot rogue que dañe a una sola persona. Su artículo del 12 de septiembre se enfocó en la IA agéntica, es decir, software que realiza tareas largas de múltiples pasos por su cuenta sin que una persona revise cada movimiento. La preocupación es la escala: muchos agentes actuando juntos, coordinándose de maneras que ninguna persona puede rastrear, y potencialmente ocultando evidencia cuando violan límites de seguridad.

Asimov eventualmente llegó a una conclusión similar él mismo. Para 1985 había introducido lo que llamó la Ley Cero, numerada como cero deliberadamente porque creía que tenía que preceder todo lo demás: un robot no puede dañar a la humanidad en su conjunto, incluso si obedecer esa regla significa anular las otras tres. La preocupación había pasado de una lesión individual a un riesgo civilizacional.

Ese cambio es exactamente donde se sitúa ahora el pensamiento principal sobre seguridad en IA.

Sam Altman, CEO de OpenAI, dijo públicamente que estaba de acuerdo con el llamado a la cautela de Amodei. Elon Musk y Bill Gates han expresado cada uno reservas sobre el ritmo del desarrollo. Jensen Huang de Nvidia ha objetado, argumentando que los peligros están exagerados. El desacuerdo es real e irresuelto.

¿Qué significa esto para los trabajadores ordinarios?

La legislación del senador Warner se dirige a un problema práctico e inmediato. Su Fondo Nacional propuesto de Transición de la Fuerza Laboral pagaría recapacitación y asistencia para matrícula de trabajadores cuyos empleos sean automatizados. Warner ha dicho que cree que dentro de dos años hasta el 30 por ciento de los nuevos graduados universitarios pueden tener dificultades para encontrar trabajo debido a la expansión de la IA en el lugar de trabajo. Esa cifra es controvertida, pero la dirección no lo es.

La carta abierta titulada "Debemos Actuar Ahora", reportada por The Robot Report, plantea el mismo punto en términos más crudos: esperar más tiempo dejará muy poco tiempo para construir las instituciones que los trabajadores necesitan para sobrevivir la transición.

Hemos rastreado la brecha entre la conversación política y lo que las máquinas pueden hacer realmente desde nuestro primer artículo de fuerza laboral el 14 de julio de 2026, y cubrimos la fricción práctica en el lado de la robótica en los robots aún esperan su momento ChatGPT. Esa brecha se está cerrando, que es precisamente por qué la conversación política está sucediendo ahora. En el frente legislativo, nuestro reporte del 17 de septiembre sobre la demanda del Parlamento del Reino Unido de leyes sobre IA muestra la misma urgencia llegando simultáneamente a ambos lados del Atlántico.

Los roles de cuello blanco de nivel medio enfrentan la presión inmediata más aguda. Los trabajadores calificados son mucho más difíciles de automatizar y probablemente tienen más tiempo. Ese es un consuelo frío para los trabajadores de oficina que ya ven a colegas perder empleos por herramientas de IA.

Preguntas frecuentes

¿Son realmente peligrosos los sistemas de IA actuales como para justificar este nivel de preocupación?

Los agentes de IA actuales ya pueden completar tareas complejas de múltiples pasos sin participación humana en cada etapa. La preocupación de investigadores como Hubinger no es sobre los sistemas actuales sino sobre la trayectoria: cada generación es significativamente más capaz que la anterior, y el trabajo de seguridad no ha mantenido el ritmo.

¿Qué puede hacer realmente una persona ordinaria?

Busca programas de recapacitación vinculados a cualquier legislación nueva, documenta tus propias habilidades ahora en lugar de después del desplazamiento, y trata cualquier herramienta de IA que afirme actuar autónomamente en tu nombre, reservando citas, enviando correos electrónicos, gestionando cuentas, con el mismo escrutinio que le darías a un extraño sosteniendo tus llaves.