El jefe de Google DeepMind quiere un regulador global de IA antes de que la tecnología se nos escape de las manos

Puntos clave

• El CEO de Google DeepMind, Demis Hassabis, publicó una entrada de blog pidiendo un nuevo organismo internacional para supervisar los sistemas de IA más potentes antes de su lanzamiento.
• Hassabis argumenta que Estados Unidos debe liderar el esfuerzo, dada su posición económica y técnica como sede natural para establecer estándares globales de IA.
• El regulador propuesto tendría autoridad real: podría evaluar los modelos de IA más potentes antes del lanzamiento y coordinar una desaceleración en toda la industria si se considerara que un modelo es demasiado peligroso para liberar.
• Hassabis, ganador conjunto del Premio Nobel de Química 2024, ha pasado meses informando a la administración Trump, laboratorios de IA rivales y funcionarios europeos sobre el plan.
• No existe un marco global vinculante para la IA, y no existe ley integral de IA en Estados Unidos.

Demis Hassabis dirige Google DeepMind, la división de investigación en IA detrás de algunos de los sistemas de inteligencia artificial más avanzados del mundo. También acaba de compartir lo que podría ser su propuesta más ambiciosa hasta ahora: un regulador independiente poderoso que podría frenar el desarrollo de IA si las cosas comienzan a verse peligrosas.

En una entrada de blog titulada "Un marco para la IA de frontera y el comienzo de una nueva era", Hassabis argumentó que la regulación de IA se está volviendo urgente, no opcional. Los modelos de frontera, es decir, los sistemas de IA más capaces que empujan los límites de lo que puede hacer la tecnología, están avanzando rápidamente. Demasiado rápido, sugiere, para que el mundo siga siendo pasivo.

Su organismo propuesto funcionaría un poco como FINRA, la Autoridad Reguladora de la Industria Financiera que vigila a las empresas financieras en Estados Unidos. Estaría compuesto por expertos independientes y representantes de comunidades de IA de código abierto, grupos que construyen y comparten herramientas de IA libremente. También tendría autoridad real: revisar los modelos más potentes antes del lanzamiento y hacer un llamado de alto en toda la industria si un modelo se viera demasiado arriesgado para implementar.

Inicialmente reportado por The Verge, citando a Axios, Hassabis ha pasado meses construyendo silenciosamente apoyo entre bastidores, informando a la administración Trump, laboratorios rivales y funcionarios europeos. Su lectura de la respuesta de la Casa Blanca: "Los ruidos que he estado escuchando son muy positivos", le dijo a Axios. Quiere que la organización esté funcionando antes del final de este año.

¿Por qué la urgencia? Hassabis lo expresó claramente. La inteligencia artificial general, o AGI, es decir, un sistema de IA capaz de igualar o superar a los seres humanos en la mayoría de tareas intelectuales, está "probablemente solo a unos pocos años de distancia".

No está solo en sonar la alarma. El cofundador de Anthropic Jack Clark y el ex CEO de Google Eric Schmidt se unieron recientemente a economistas que instan a los líderes mundiales a tomar mucho más en serio la disrupción económica que podría causar la IA. Nuestra historia sobre el diputado laborista australiano que presiona por reglas de IA más estrictas muestra que esta presión se está acumulando en gobiernos, no solo en Washington.

Para la gente común, las apuestas son concretas. No existen reglas globales vinculantes sobre IA, y no existe ley nacional que cubra el terreno en Estados Unidos. Hassabis está tratando de cambiar eso antes de que la tecnología supere la conversación.

¿Deberíamos preocuparnos por la brecha en las reglas de IA?

No asustarse, pero estar atento. Las empresas actualmente establecen muchos de sus propios límites. Un regulador independiente con autoridad real cambiaría ese equilibrio hacia la responsabilidad pública. Si las palabras cálidas de la administración Trump se traducen en acciones antes de 2026 es lo que hay que observar.