El jefe de Google DeepMind quiere un regulador mundial de IA antes de que la tecnología se nos escape de las manos

Puntos clave

• El CEO de Google DeepMind, Demis Hassabis, publicó una entrada de blog en 2025 pidiendo un nuevo organismo internacional que supervise los sistemas de IA más poderosos antes de su liberación al público.
• Hassabis argumenta que Estados Unidos debe liderar este esfuerzo, citando su posición económica y técnica como sede natural para establecer estándares globales de IA.
• El regulador propuesto tendría autoridad real: podría evaluar modelos de IA de vanguardia antes del lanzamiento y coordinar una desaceleración en toda la industria si un modelo se considerara demasiado peligroso para liberar.
• Hassabis, ganador conjunto del Premio Nobel de Química 2024, ha pasado meses informando a la administración Trump, empresas de IA rivales y funcionarios europeos sobre el plan.
• Actualmente no existe una ley integral de IA en Estados Unidos, ni tampoco existe un marco global vinculante.

Demis Hassabis dirige Google DeepMind, la división de investigación de IA responsable de algunos de los sistemas de inteligencia artificial más avanzados del mundo. También acaba de compartir lo que podría ser su propuesta más ambiciosa hasta ahora: un regulador independiente y poderoso que pudiera frenar el desarrollo de IA si las cosas comienzan a parecer peligrosas.

En una entrada de blog titulada "A Framework for Frontier AI and the Dawning of a New Age", Hassabis argumentó que la regulación de IA se está volviendo urgente, no opcional. Los modelos de frontera, es decir, los sistemas de IA más capaces y de vanguardia que expanden los límites de lo que la tecnología puede hacer, están avanzando rápidamente. Demasiado rápido, sugiere, para que el mundo permanezca pasivo.

Su organismo propuesto funcionaría de manera similar a FINRA, la Autoridad Reguladora de la Industria Financiera que supervisa empresas financieras en Estados Unidos. Estaría compuesto por expertos independientes y representantes de comunidades de IA de código abierto (grupos que crean y comparten herramientas de IA libremente). Lo más importante es que tendría poder real: la autoridad para revisar los modelos de IA más poderosos antes de que las empresas los lancen, y para detener toda la industria si un modelo parece demasiado riesgoso para poner en el mundo.

Reportado por primera vez por The Verge AI, citando Axios, Hassabis ha pasado meses construyendo apoyo discretamente detrás de escenas. Informó a la administración Trump, laboratorios rivales y funcionarios europeos. ¿Su lectura de Washington? "Los comentarios que he estado escuchando son muy positivos", le dijo a Axios. Quiere que la organización esté funcionando antes de que termine 2025.

¿Por qué la urgencia? Hassabis lo planteó claramente en la entrada de blog. La inteligencia artificial general, o AGI, que significa un sistema de IA capaz de igualar o superar a los seres humanos en la mayoría de tareas intelectuales, está "probablemente solo a unos pocos años de distancia".

No está solo en lanzar la alarma. El cofundador de Anthropic, Jack Clark, y el ex CEO de Google, Eric Schmidt, se unieron recientemente a economistas que instan a los líderes mundiales a tomar mucho más en serio la disrupción económica que la IA podría causar.

Para las personas ordinarias, la conclusión práctica es simple. Actualmente no existen reglas globales vinculantes sobre IA ni una ley nacional integral en Estados Unidos. Hassabis está tratando de cambiar eso antes de que la tecnología supere la conversación.

¿Debería el resto de nosotros estar preocupados por la brecha en las reglas de IA?

No en pánico, pero prestando atención. La ausencia de un marco acordado significa que actualmente las empresas establecen muchos de sus propios límites. Un regulador independiente con autoridad real cambiaría ese equilibrio hacia la responsabilidad pública, lo cual es un cambio significativo que vale la pena seguir.