El CEO de Google DeepMind quiere un organismo regulador tipo FINRA para los modelos de IA más potentes
Demis Hassabis ha propuesto un organismo de estándares independiente que revisaría los modelos de IA de frontera antes de que lleguen al público. Aquí está lo que está pidiendo y por qué es importante.
Puntos clave
- El CEO de Google DeepMind, Demis Hassabis, publicó una propuesta el 14 de julio de 2026 pidiendo un organismo independiente para revisar los modelos de IA más potentes antes de su lanzamiento.
- El organismo propuesto está modelado según FINRA, la Autoridad Reguladora de la Industria Financiera, un organismo de vigilancia independiente y autofinanciado que supervisa a los corredores financieros estadounidenses sin estar dentro del gobierno.
- Bajo el plan, los laboratorios de IA compartirían voluntariamente nuevos modelos con el organismo hasta 30 días antes del lanzamiento, con cumplimiento obligatorio posiblemente siguiendo una vez que el proceso esté probado.
- Las revisiones anteriores del gobierno estadounidense de Mythos de Anthropic y Sol de OpenAI recibieron críticas por carecer de experiencia técnica y reglas claras de toma de decisiones.
- Sriram Krishnan, asesor de IA de la Casa Blanca, dijo en 2026 que la administración no crearía "una FDA para la IA," haciendo de una estructura autorreguladora el camino más viable políticamente.
Demis Hassabis, CEO de Google DeepMind, publicó el martes una propuesta detallada pidiendo una nueva organización que actúe como guardiana de los sistemas de IA más potentes del mundo. Los llama "modelos de frontera," refiriéndose a los sistemas de IA de vanguardia que empujan los límites de lo que la tecnología actualmente puede hacer.
La idea es lo suficientemente simple. Antes de que un modelo de frontera sea público, sus desarrolladores lo entregarían a un organismo de estándares independiente para hasta 30 días de pruebas de seguridad. Pasar las verificaciones, lanzar el producto. Fallar, solucionar los problemas primero.
Hassabis quiere que el organismo esté estructurado como FINRA, la Autoridad Reguladora de la Industria Financiera. FINRA no es una agencia gubernamental. Está financiada por la industria financiera misma y opera independientemente, estableciendo y haciendo cumplir reglas de conducta para corredores de bolsa. La versión de IA funcionaría de la misma manera: respaldada por fondos de los grandes laboratorios de IA, personal compuesto por expertos técnicos e investigadores de código abierto, y libre para contratar evaluaciones especializadas a grupos independientes de seguridad de IA.
La propuesta llena un vacío que se ha vuelto vergonzosamente obvio. El gobierno estadounidense ya realizó revisiones de seguridad ad hoc de dos modelos de alto perfil, Mythos de Anthropic y Sol de OpenAI, un modelo de lenguaje grande y un sistema de IA multimodal respectivamente. Ambos se encuentran entre las herramientas de IA más capaces construidas hasta la fecha. Esas revisiones fueron ampliamente criticadas, reportado primero por TechCrunch AI, por experiencia técnica superficial y reglas confusas sobre qué realmente desencadenaría un bloqueo del lanzamiento.
Un organismo permanente con especialistas a tiempo completo solucionaría ambos problemas.
El ángulo político es complicado. La administración Trump ha mostrado poco apetito por nuevos reguladores de IA. Sriram Krishnan, asesor de IA de la Casa Blanca y socio en la firma de capital de riesgo Andreessen Horowitz, dijo categóricamente que no habría "una FDA para la IA." El modelo autorregulador de Hassabis es una respuesta directa a esa objeción: ninguna agencia gubernamental nueva, ninguna burocracia nueva, solo la industria regulándose a sí misma con respaldo gubernamental.
¿Deberían los usuarios ordinarios preocuparse por esto?
Sí, en un sentido práctico. En este momento, las herramientas de IA más potentes llegan sin ninguna verificación de seguridad consistente. Un organismo de estándares significaría que la próxima ola de productos de IA que uses, ya sea para escribir, atención médica o asesoramiento financiero, haya pasado al menos una revisión técnica independiente antes de llegar a tu teléfono o navegador.
Hassabis presenta el sistema como diseñado para crecer con la tecnología, endureciendo sus requisitos si los riesgos se vuelven más serios. Esa es una estructura razonable. El detalle que importará más es quién realmente se sienta en el organismo y si los laboratorios aceptan sus hallazgos cuando esos hallazgos son inconvenientes.
