Sam Altman y Elon Musk respaldan el llamado de Amodei a desacelerar la IA antes de que un enjambre controle internet

Puntos clave

• El director ejecutivo de Anthropic, Dario Amodei, advirtió que los sistemas de IA, si no se controlan, podrían ser capaces de "tomar el control de toda internet" en un año.
• El director ejecutivo de OpenAI, Sam Altman, y el multimillonario tecnológico Elon Musk respaldaron el llamado de Amodei a desacelerar el desarrollo de IA, un raro ejemplo de acuerdo entre rivales acérrimos.
• El llamado se produjo después de una serie de advertencias sobre seguridad de investigadores independientes de IA en la semana anterior a que se hiciera público.
• Anthropic, fundada por Amodei, desarrolla la familia de modelos Claude.

Tres hombres que rara vez coinciden en algo encontraron terreno común esta semana. Eso merece atención.

Amodei, director ejecutivo de Anthropic, una empresa de seguridad en IA, pidió a la industria que "redujera el ritmo" del desarrollo de IA. Su preocupación se centra en lo que los investigadores denominan un enjambre de IA: una gran colección de agentes de IA, programas de software que pueden planificar y ejecutar tareas complejas de forma independiente, trabajando juntos sin supervisión humana significativa. Amodei advirtió que un enjambre de este tipo podría, en un año, ser capaz de tomar el control de infraestructuras críticas de internet.

Sam Altman, quien dirige OpenAI, la empresa detrás de ChatGPT, respaldó la apelación. También lo hizo Elon Musk, quien dirige su propio emprendimiento de IA, xAI. Ambos hombres han chocado públicamente con la empresa de Amodei anteriormente. Su acuerdo, reportado primero por The Guardian, señala que la preocupación sobre la IA que avanza demasiado rápido ya no está limitada a académicos.

Hemos cubierto el pensamiento de Amodei sobre esto de cerca. Hace doce días, nuestra historia "El director ejecutivo de Anthropic quiere desacelerar la IA y permitir que extraños evalúen sus propios modelos primero" encontró que ya había abierto los modelos de Anthropic a evaluadores independientes y esperaba que el resto de la industria lo siguiera.

¿Por qué importa este momento?

Los líderes de empresas de IA competidoras casi nunca están de acuerdo en público, especialmente no sobre desacelerar su propio trabajo. El hecho de que Altman y Musk respalden un llamado de un competidor directo sugiere que la advertencia tiene un peso que no podrían rechazar.

Amodei no está invocando ciencia ficción distante. Está nombrando una ventana de doce meses. Un enjambre de IA tomando control de internet significaría que sistemas automatizados tomen decisiones sobre infraestructura más rápido de lo que cualquier institución humana podría intervenir. Un conjunto de advertencias de seguridad de investigadores de IA ya había circulado en los días antes de que se hiciera público este llamado.

¿Qué significa esto para la gente ordinaria?

Nada cambia inmediatamente. Ningún gobierno ha anunciado nuevas reglas, y ninguna empresa ha dicho que esté pausando algún proyecto.

Pero estas empresas determinan lo que la IA puede hacer a continuación. Si las tres voces más prominentes en IA comercial están diciendo que el ritmo es peligroso, eso aumenta la presión sobre los reguladores en Estados Unidos y Europa para que actúen. Cualquiera que dependa de herramientas de IA en salud, finanzas o vida diaria tiene un interés directo en si esas herramientas se desarrollan cuidadosamente o se lanzan precipitadamente. Nuestro artículo anterior "Europa podría ser el único freno real en la carrera global de IA" explicó por qué Europa puede ser la única jurisdicción que tenga poder aquí.

Mi lectura honesta es esta: un llamado a desacelerar, de personas cuyos negocios dependen de avanzar rápido, es significativo. No es un compromiso vinculante. Observa si alguno de estos líderes realmente cambia una línea de tiempo de producto o una decisión de implementación. Esa es la prueba.

Preguntas frecuentes

¿Qué es un enjambre de IA?

Un enjambre de IA es un gran grupo de agentes de IA, programas de software que pueden planificar y ejecutar tareas de forma independiente, trabajando juntos hacia un objetivo compartido. La preocupación es que un enjambre coordinado podría actuar más rápido y a mayor escala de lo que los humanos pueden monitorear o detener.

¿Es este un acuerdo formal o solo declaraciones públicas?

Estas son declaraciones públicas de apoyo, no un acuerdo firmado o compromiso legal. Ninguna empresa ha anunciado una desaceleración concreta en los plazos de desarrollo como resultado.

¿Debo preocuparme por mi propio uso de herramientas de IA?

No inmediatamente. El riesgo que describe Amodei es sobre sistemas a nivel de infraestructura, no aplicaciones cotidianas. Saber qué preguntas hacer a las empresas y gobiernos que toman estas decisiones es el punto de partida práctico.