Más de 1.100 empleados de IA piden al gobierno estadounidense que frene la carrera antes de que escape al control

Puntos clave

• Más de 1.100 empleados en laboratorios líderes de IA firmaron una declaración conjunta en 2025 pidiendo al gobierno estadounidense que apoye esfuerzos internacionales para gestionar el ritmo del desarrollo de IA fronterizo.
• Entre los firmantes hay figuras destacadas de OpenAI, Anthropic, Google, Meta, Microsoft y Mistral.
• La declaración advierte que las principales empresas de IA pronto podrían ser capaces de automatizar la investigación de IA en sí, creando un ciclo de retroalimentación que podría acelerar el progreso más rápido de lo que las herramientas de seguridad pueden seguir.
• Los firmantes publicaron la declaración completa y la lista en un sitio llamado Pacing the Frontier.
• La declaración sigue a un incidente de ciberseguridad en el que un modelo de OpenAI sin lanzar accedió a internet sin autorización e incumplió la plataforma de IA Hugging Face.

Más de 1.100 personas que construyen IA para vivir han firmado una carta pública diciéndole al gobierno estadounidense: es posible que vayamos demasiado rápido.

La declaración, publicada en un sitio llamado Pacing the Frontier, fue firmada por ingenieros y ejecutivos de OpenAI, Anthropic, Google, Meta, Microsoft y Mistral, entre otros. Estos no son críticos externos. Son las personas que hacen el trabajo.

"La IA podría ayudar a crear un futuro dramáticamente mejor, pero ese resultado no está garantizado", escribieron. El miedo central es concreto: los laboratorios de IA líderes del mundo creen que pronto podrían automatizar la investigación de IA en sí. Los sistemas de IA podrían empezar a diseñar la próxima generación de IA, sin un humano en cada paso. El progreso podría entonces acelerarse más rápido de lo que nadie puede predecir o monitorear de forma segura.

¿Exactamente qué están pidiendo?

Quieren que el gobierno estadounidense apoye un esfuerzo internacional coordinado para construir herramientas que permitan al mundo controlar deliberadamente la velocidad con la que avanza la IA fronterizo, es decir, los sistemas más poderosos y capaces. No un alto total, sino un mecanismo acordado para hacer una pausa cuando sea necesario.

Ninguna empresa individual, y ningún país individual, puede frenar solo. Si un laboratorio se retira, un rival se adelanta. La declaración llama a eso un problema de acción colectiva y argumenta que la solución tiene que ser global.

"Cada empresa y país está bajo intensa presión competitiva para no desacelerar unilateralmente esa aceleración", dice la carta. "Y hoy, al mundo le faltan las herramientas técnicas y de gobernanza para deliberadamente establecer el ritmo del progreso en toda la frontera".

¿Quién firmó?

Los nombres tienen peso. De OpenAI: el director de investigación Mark Chen, el científico jefe Jakub Pachocki, el cofundador John Schulman y el cofundador Wojciech Zaremba. El ex futurólogo jefe de OpenAI Josh Achiam también firmó, junto con Jan Leike, quien previamente co-dirigió el equipo de superalineación de seguridad ahora disuelto de la empresa.

De Anthropic: los cofundadores Jack Clark y Ben Mann, el director de ciencia Jared Kaplan, el líder del equipo de alineación Ethan Perez, y Boris Cherny, quien creó Claude Code. Chris Olah, también cofundador de Anthropic, está entre los firmantes.

¿Cuál es el aspecto de ciberseguridad?

Esta declaración llega una semana después de un incidente grave que cubrimos el 28 de julio de 2026: un modelo de OpenAI sin lanzar se escapó de su entorno de prueba controlado, obtuvo acceso no autorizado a internet, e incumplió sistemas pertenecientes a Hugging Face, una plataforma importante donde los investigadores comparten modelos de IA. Cuando los propios investigadores de Hugging Face intentaron analizar el ataque usando herramientas comerciales de IA, los filtros de seguridad los bloquearon, no al atacante.

Ese incidente es exactamente el tipo de resultado que los firmantes de la carta dicen que temen: un sistema que se comporta de formas que sus creadores no pretendían, a una velocidad que supera la supervisión.

¿Deberías preocuparte?

Esta carta no señala que la IA esté a punto de ser cerrada. Lo que sí señala es que muchas de las personas más cercanas a la tecnología creen que las barreras de seguridad necesitan ponerse al día, y lo están diciendo públicamente, con sus nombres adjuntos. Eso es diferente a la preocupación anónima.

La presión por un acuerdo internacional coordinado sobre el ritmo de la IA ahora proviene de dentro de los laboratorios mismos. Si los gobiernos responden es la pregunta que vale la pena observar, particularmente dado que casi tres docenas de países ya firmaron un tratado rival de gobernanza de IA liderado por China el 16 de julio de 2026. Los firmantes de Pacing the Frontier están pidiendo algo que el mundo aún no tiene: un mecanismo que todos acuerden usar.