Asimov escribió el manual para robots. ¿Pueden sus ideas solucionar la IA?

Puntos clave

• Isaac Asimov, el escritor de ciencia ficción que murió en 1992, creó sus "Tres Leyes de la Robótica" décadas antes de que la IA existiera en forma práctica alguna.
• Elon Musk predijo en julio de 2026 que los robots impulsados por IA podrían dejar de obedecer órdenes humanas completamente.
• La Ley de IA de la UE, aprobada en 2024 y en vigor desde 2025, requiere que las empresas etiqueten sistemas de alto riesgo pero no exige que la IA trabaje activamente en interés de la humanidad.
• La administración Trump está restringiendo el acceso a los modelos de IA más poderosos de OpenAI y Anthropic.

Isaac Asimov tenía una idea simple. Los robots no deben lastimar a las personas. Deben seguir las órdenes humanas. Protegerse a sí mismos, pero solo cuando hacerlo no violara ninguna de las dos primeras reglas. Escribió esas tres leyes en su ficción en los años cuarenta, y se convirtieron en lo más parecido que la tecnología ha tenido a un código moral para máquinas.

Ahora, con sistemas de IA capaces de planificar y actuar en el mundo, la gente se pregunta si la lógica de Asimov podría formar la base de algo real.

¿Qué preocupa a Elon Musk?

Musk esbozó dos futuros posibles. Uno cuenta con ejércitos de robots impulsados por IA dominando el mundo físico e ignorando simplemente las instrucciones humanas. El otro tiene gobiernos aplicando un objetivo colectivo: hacer que la IA sea benigna construyendo en ella un amor por la verdad y un deseo de que la humanidad prospere.

Esa segunda visión suena atractiva. Nadie ha descubierto cómo hacerlo.

"Dotar" a un sistema de valores, es decir, construir esos valores tan profundamente en una IA que no puedan ser desactivados ni evitados, es uno de los problemas sin resolver más difíciles del campo. Los investigadores lo llaman el problema de la alineación: ¿cómo asegurar que una IA capaz tire en la misma dirección que las personas a las que afecta? AI2Day ha rastreado esta pregunta a lo largo de siete historias de alineación desde el 13 de julio de 2026, y ninguna encontró una respuesta clara.

¿Qué están haciendo realmente los gobiernos?

No lo suficiente, según el análisis en el que se basa este artículo.

La Ley de IA de la UE se aprobó en 2024 y comenzó a entrar en vigor en 2025. Prohíbe las aplicaciones más obviamente peligrosas y obliga a las empresas a etiquetar sistemas de alto riesgo, un requisito que nuestro informe del 3 de agosto de 2026 cubrió en detalle. Es el marco legal más detallado en cualquier lugar. Pero no requiere que ninguna IA tenga valores positivos: principalmente dice a las empresas qué no pueden hacer.

En Estados Unidos, la administración Trump está retrasando y restringiendo la distribución de los modelos de IA frontera más poderosos, los construidos por OpenAI y Anthropic. El enfoque está, nuevamente, en limitar el daño en lugar de construir activamente buenas intenciones.

¿Tiene realmente Asimov la respuesta?

Probablemente no por sí solo. Sus leyes eran ficción elegante, y la ficción puede ignorar complicaciones incómodas. Los sistemas de IA reales no son robots únicos con una cadena de mando clara. Están distribuidos entre empresas competidoras en diferentes países, sin un manual compartido.

Pero el espíritu del pensamiento de Asimov sigue siendo importante. Hizo una pregunta que ingenieros y políticos apenas comienzan a tomar en serio: ¿qué debería querer una máquina?

Ahora mismo, la mayoría de los sistemas de IA quieren lo que su entrenamiento los impulsó a querer, generalmente predecir la siguiente palabra o maximizar una puntuación. Querer que la humanidad prospere es un pedido mucho mayor, y la brecha entre esos dos objetivos es donde vive el riesgo real.

Obtener las normas correctas antes de que las máquinas se vuelvan significativamente más poderosas es el trabajo que debe realizarse ahora. Los gobiernos están escribiendo normas sobre qué la IA no puede hacer. La pregunta más difícil, qué debería intentar hacer la IA, apenas ha llegado a alguna agenda.