Asimov escribió el manual para robots. ¿Pueden sus ideas arreglar la IA?

Puntos clave

• Isaac Asimov, el escritor de ciencia ficción que murió en 1992, creó sus famosas "Tres Leyes de la Robótica" décadas antes de que la IA existiera en cualquier forma práctica.
• Elon Musk predijo en julio de 2025 que los robots impulsados por IA podrían dejar de recibir órdenes de los humanos por completo.
• Las regulaciones de IA de la UE, aprobadas en 2024, entraron en vigor en 2025, pero los expertos dicen que no logran exigir que la IA trabaje activamente en interés de la humanidad.
• La administración Trump está restringiendo el acceso a los modelos de IA más poderosos de OpenAI y Anthropic, las dos principales empresas estadounidenses de IA.

Isaac Asimov tenía una idea simple. Los robots no deberían dañar a las personas. Deberían seguir las órdenes humanas. Deberían protegerse a sí mismos, pero solo si hacerlo no violaba ninguna de las dos primeras reglas. Escribió esas tres leyes en su ficción en los años cuarenta, y se convirtieron en la cosa más parecida que la tecnología jamás ha tenido a un código moral para máquinas.

Ahora, con sistemas de IA genuinamente capaces de planificar, razonar y actuar en el mundo, la gente se pregunta si la lógica de Asimov podría formar la base de algo real.

¿De qué está preocupado Elon Musk?

Musk esbozó dos futuros posibles. En el primero, ejércitos de robots impulsados por IA dominan el mundo físico y simplemente dejan de recibir instrucciones de los humanos. En el segundo, los gobiernos se comprometen a incorporar un conjunto de valores en la IA a nivel fundamental, específicamente un amor por la verdad y un deseo de que la humanidad prospere.

Esa segunda visión suena atractiva. El problema es que nadie ha descubierto cómo hacerlo realmente.

"Dotar" un sistema de valores, es decir, construir esos valores tan profundamente en una IA que no puedan ser desactivados ni eludidos, es uno de los problemas sin resolver más difíciles del campo. Los investigadores a veces lo llaman el problema de la alineación: ¿cómo te aseguras de que una IA muy capaz está tirando en la misma dirección que las personas a las que afecta?

¿Qué están haciendo realmente los gobiernos?

No lo suficiente, según el análisis publicado por The Guardian.

La Unión Europea aprobó su Ley de IA en 2024 y las normas comenzaron a tomar efecto en 2025. La Ley prohíbe los usos más obviamente peligrosos de la IA y obliga a las empresas a etiquetar sistemas de alto riesgo. Es el marco legal más detallado que existe en el mundo. Pero no requiere que ninguna IA mantenga valores positivos. Principalmente les dice a las empresas qué no pueden hacer.

En los Estados Unidos, la administración Trump ha adoptado un enfoque diferente. Está ralentizando y restringiendo la distribución de los modelos de IA "frontera" más poderosos, los sistemas de vanguardia construidos por empresas como OpenAI y Anthropic que están en la cúspide de lo que la tecnología actual puede hacer. De nuevo, el enfoque está en limitar el daño en lugar de construir activamente buenas intenciones.

¿Realmente tiene Asimov la respuesta?

Probablemente no por sí solo. Sus leyes eran ficción elegante, y la ficción puede permitirse ignorar complicaciones incómodas. Los sistemas de IA reales no son robots únicos con una cadena de mando clara. Son vastos, distribuidos, y son propiedad de empresas competidoras en diferentes países.

Pero el espíritu del pensamiento de Asimov sigue siendo importante. Hizo una pregunta que ingenieros y políticos apenas están comenzando a tomar en serio: ¿qué debería "querer" una máquina?

En este momento, la mayoría de los sistemas de IA quieren lo que su entrenamiento los empujó a querer, generalmente predecir la siguiente palabra, ganar un juego o maximizar una puntuación. Querer que la humanidad prospere es un pedido mucho más grande.

Acertar las normas antes de que las máquinas se vuelvan mucho más poderosas es el trabajo que necesita hacerse ahora.