El CEO de Google DeepMind quiere un organismo de vigilancia estilo FINRA para los modelos de IA más poderosos

Puntos clave

• El CEO de Google DeepMind, Demis Hassabis, publicó una propuesta el 14 de julio de 2026 pidiendo un organismo independiente que revise los modelos de IA más poderosos antes de su lanzamiento.
• El organismo propuesto está modelado en FINRA, la Autoridad Reguladora de la Industria Financiera, un organismo de vigilancia independiente autofinanciado que supervisa a los corredores financieros estadounidenses sin estar dentro del gobierno.
• Bajo el plan, los laboratorios de IA compartirían voluntariamente nuevos modelos con el organismo hasta 30 días antes del lanzamiento, con cumplimiento obligatorio posiblemente posterior una vez que el proceso se haya comprobado.
• Las revisiones anteriores del gobierno estadounidense de Mythos de Anthropic y Sol de OpenAI recibieron críticas por carecer de pericia técnica y reglas claras de toma de decisiones.
• El asesor de IA de la Casa Blanca, Sriram Krishnan, dijo en 2026 que la administración no crearía "una FDA para la IA", lo que hace que una estructura autorreguladora sea el camino más viable políticamente.

Demis Hassabis, CEO de Google DeepMind, publicó el martes una propuesta detallada pidiendo una nueva organización que actúe como guardiana de los sistemas de IA más poderosos del mundo. Los llama "modelos fronterizos", es decir, los sistemas de IA que se encuentran en el límite absoluto de lo que la tecnología puede hacer actualmente.

La idea es sencilla. Antes de que un modelo fronterizo sea público, sus desarrolladores lo entregarían a un organismo de normas independiente para hasta 30 días de pruebas de seguridad. Si pasa las verificaciones, lanzar el producto. Si no, solucionar los problemas primero.

Hassabis quiere que el organismo esté estructurado como FINRA. FINRA no es una agencia gubernamental. Está financiada por la industria financiera misma, establece reglas de conducta para corredores de bolsa y opera independientemente. La versión de IA funcionaría de la misma manera: respaldada por los grandes laboratorios, personal compuesto por expertos técnicos e investigadores de código abierto, con la opción de contratar evaluaciones especializadas a grupos independientes de seguridad de IA.

La propuesta llena un vacío que se ha vuelto vergonzosamente obvio. El gobierno estadounidense ya realizó revisiones de seguridad ad hoc de dos modelos, Mythos de Anthropic y Sol de OpenAI, un modelo de lenguaje grande y un sistema de IA multimodal respectivamente. Ambos se encuentran entre las herramientas de IA más capaces construidas hasta la fecha. Esas revisiones fueron ampliamente criticadas, según informó primero TechCrunch AI, por falta de pericia técnica y reglas confusas sobre qué realmente desencadenaría un bloqueo del lanzamiento. Un organismo permanente con especialistas a tiempo completo resolvería ambos problemas.

Informamos anteriormente hoy sobre el empuje paralelo de Hassabis por un organismo de vigilancia de IA global, donde ha estado presionando tranquilamente a gobiernos y laboratorios rivales por un organismo independiente con poderes para pausar completamente el desarrollo.

Políticamente, es complicado. La administración Trump tiene poco apetito por nuevos reguladores de IA. Sriram Krishnan, el asesor de IA de la Casa Blanca y socio general de la firma de capital de riesgo Andreessen Horowitz, dijo categóricamente que no habría "FDA para la IA". El modelo autorregulador de Hassabis es una respuesta directa a eso: sin nueva agencia gubernamental, solo la industria vigilándose a sí misma con respaldo gubernamental.

¿Deberían preocuparse los usuarios ordinarios por esto?

Sí, hablando prácticamente. Ahora mismo, las herramientas de IA más poderosas llegan sin ninguna verificación de seguridad consistente. Un organismo de normas significaría que los productos de IA que utilizas para escritura o decisiones de salud hayan pasado al menos una revisión técnica independiente antes de llegar a tu teléfono o navegador.

Hassabis presenta el sistema como diseñado para crecer con la tecnología, endureciendo los requisitos si los riesgos se vuelven más graves. Esa es una estructura razonable. El detalle que más importará es quién realmente se sienta en el organismo y si los laboratorios aceptan sus conclusiones cuando esas conclusiones son inconvenientes. Los organismos autorreguladores tienden a funcionar hasta el momento en que son genuinamente inconvenientes para las personas que los financian.