El jefe de Google DeepMind pide un organismo respaldado por el gobierno de EE.UU. para revisar la IA antes de su lanzamiento

Puntos clave

• El CEO de Google DeepMind, Demis Hassabis, publicó el martes una propuesta pidiendo un organismo supervisado federalmente y liderado por EE.UU. para revisar modelos de IA antes de su lanzamiento público.
• Hassabis advirtió que los modelos de IA de frontera ya plantean riesgos de ciberseguridad y pronto podrían permitir amenazas nucleares o biológicas.
• El organismo propuesto requeriría que las empresas de IA envíen nuevos modelos para revisión hasta 30 días antes del lanzamiento, comenzando voluntariamente y luego haciéndose obligatorio.
• El CEO de Anthropic, Dario Amodei, y el CEO de OpenAI, Sam Altman, han hecho llamados similares para un organismo de supervisión de IA en las últimas semanas.
• La financiación del organismo de vigilancia probablemente provendría de la propia industria de IA, dijo Hassabis.

Demis Hassabis, CEO de Google DeepMind y ganador del Premio Nobel de Química en 2024, publicó el martes una propuesta detallada para una nueva institución estadounidense que probaría modelos potentes de IA antes de que lleguen al público. Piénsalo como la FDA, pero para software de IA.

Hassabis dijo que el organismo debería modelarse según FINRA, la Autoridad Reguladora de la Industria Financiera, que licencia y supervisa firmas de corretaje y mercados de valores en Estados Unidos. FINRA está supervisada federalmente pero estructurada como una asociación público-privada, con gobierno e industria compartiendo la gobernanza.

Con sus propias palabras, la urgencia: "Ya hemos visto los desafíos que los modelos de frontera plantean para la ciberseguridad, y otras amenazas incluyendo riesgos nucleares y biológicos pueden emerger pronto a medida que las capacidades continúan avanzando".

Su propuesta dice que las empresas de IA enviarían voluntariamente nuevos modelos para revisión hasta 30 días antes del lanzamiento. Una vez que el organismo demuestre ser efectivo, ese envío se haría obligatorio para cualquier modelo vendido en el mercado estadounidense.

Las pruebas examinarían si un modelo puede ser engañado para eludir sus propias reglas de seguridad, si muestra signos de engaño, y si sus salidas pueden ser marcadas con agua o rastreadas hasta una fuente de IA. Este último punto tiene una utilidad práctica para usuarios ordinarios: es cómo empleadores, bancos u oficinas médicas eventualmente verificarían si un documento fue escrito por una persona o generado por software.

El dinero es la pregunta obvia. Hassabis dijo que el organismo necesitaría financiación "sustancial" para contratar personal técnico de primer nivel e infraestructura informática para pruebas a gran escala. Espera que la industria de IA pague la mayor parte.

Esta no es una voz solitaria. Hassabis y el CEO de Anthropic, Dario Amodei, plantearon la idea en una reunión del G7 que incluyó al presidente Donald Trump el mes pasado, según fue reportado por CNBC Tech. El CEO de OpenAI, Sam Altman, publicó un argumento similar en el Financial Times a principios de este mes. Cubrimos el empuje paralelo de Anthropic por regulación más estricta en nuestra historia del 16 de julio sobre los motivos de la empresa.

Sin embargo, el camino político es difícil. La administración Trump recientemente impuso controles de exportación temporales en un modelo avanzado de Anthropic, luego le pidió a OpenAI que ralentizara el lanzamiento de uno nuevo. Hassabis esencialmente está pidiendo al mismo gobierno que ya está restringiendo IA que construya una institución formal, financiada y personal alrededor de ella.

¿Qué significa esto para las personas que usan IA en el trabajo?

Si este organismo alguna vez se crea, los modelos que uses a través de software laboral o aplicaciones de consumidor tendrían que pasar una revisión de seguridad antes del lanzamiento. Eso podría significar cronogramas de lanzamiento ligeramente más lentos, pero también significa una verificación independiente de si una herramienta puede ser manipulada para producir resultados peligrosos. Para la mayoría de los usuarios, el efecto práctico sería invisible, a menos que silenciosamente prevenga el próximo incidente de seguridad importante que involucre un producto de IA.

La dimensión Estados Unidos-China añade presión. Los modelos de IA chinos de empresas incluyendo DeepSeek están ganando clientes entre negocios estadounidenses, en parte por costo. Los legisladores estadounidenses ahora están considerando restricciones en su adopción, con el Departamento de Estado diciéndole a CNBC que plantea "preocupaciones serias". Un organismo de estándares doméstico casi seguramente se aplicaría también a modelos extranjeros vendidos en el mercado estadounidense.

Conclusión honesta: El consenso entre CEOs de tecnología no es lo mismo que impulso político. Observa si el Congreso adopta esto, no si más ejecutivos añaden sus nombres a la lista.