El jefe de Google DeepMind quiere que un organismo respaldado por el gobierno estadounidense revise la IA antes de su lanzamiento

Puntos clave

• El CEO de Google DeepMind, Demis Hassabis, publicó una propuesta el martes pidiendo un organismo supervisado federalmente y liderado por EE.UU. para revisar modelos de IA antes de su lanzamiento público.
• Hassabis advirtió que los modelos de IA fronteriza, los sistemas más potentes disponibles hoy, ya presentan riesgos de ciberseguridad y podrían pronto permitir amenazas nucleares o biológicas.
• El organismo propuesto exigiría a las empresas de IA que envíen nuevos modelos para revisión hasta 30 días antes del lanzamiento, comenzando de forma voluntaria y luego haciéndose obligatorio.
• El CEO de Anthropic, Dario Amodei, y el CEO de OpenAI, Sam Altman, han hecho llamadas similares para un organismo de supervisión de IA en las últimas semanas.
• La financiación del organismo de vigilancia provendría "probablemente" de la propia industria de IA, según Hassabis.

Demis Hassabis, CEO de Google DeepMind y laureado con el Premio Nobel de Química en 2024, publicó esta semana una propuesta detallada para una nueva institución estadounidense: un organismo de normalización, esencialmente una agencia de vigilancia, que probaría y aprobaría modelos potentes de IA antes de que lleguen al público.

Piénsalo como la Administración de Alimentos y Medicamentos, pero para software de IA.

Hassabis dijo que el organismo debería modelarse según FINRA, la Autoridad Reguladora de la Industria Financiera, que es la organización que otorga licencias y supervisa a los agentes y empresas de bolsa en Estados Unidos. FINRA está supervisada federalmente pero se gestiona como una asociación público-privada, lo que significa que el gobierno y la industria comparten la mesa.

La razón por la que Hassabis quiere esto ahora: cree que las apuestas están aumentando rápidamente. "Ya hemos visto los desafíos que los modelos fronterizos plantean para la ciberseguridad, y otras amenazas incluyendo riesgos nucleares y biológicos podrían pronto emerger", escribió.

Su propuesta dice que las empresas de IA enviarían voluntariamente nuevos modelos al organismo para revisión hasta 30 días antes del lanzamiento. Una vez que el organismo demuestre que funciona, ese envío se volvería obligatorio para cualquier modelo vendido en el mercado estadounidense.

Las pruebas examinarían si un modelo puede ser engañado para eludir sus propias normas de seguridad, si muestra signos de engaño, y si sus resultados pueden ser rastreados hasta una fuente de IA. Este último punto importa para usuarios ordinarios: es cómo tu banco, la oficina de tu médico, o tu empleador verificarían algún día si un documento fue escrito por una persona o generado por software.

El dinero es la pregunta obvia. Hassabis dijo que el organismo necesitaría financiación "sustancial" para contratar personal técnico de primer nivel e implementar la infraestructura informática necesaria para pruebas a gran escala. Espera que la industria de IA pague la mayor parte.

Esta no es una voz solitaria. Como reportó primero CNBC Tech, Hassabis y el CEO de Anthropic, Dario Amodei, plantearon la idea en una reunión del G7 que incluía al presidente Donald Trump el mes pasado. El CEO de OpenAI, Sam Altman, publicó un argumento similar en el Financial Times a principios de este mes.

Sin embargo, el camino político es accidentado. La administración Trump recientemente impuso controles de exportación temporal en un modelo avanzado de Anthropic, luego le pidió a OpenAI que desacelerara el lanzamiento de uno nuevo. Hassabis esencialmente está pidiéndole al mismo gobierno que ya está restringiendo la IA que ahora construya una institución formal, financiada y con personal alrededor de ella.

¿Qué significa esto para las personas que usan IA en el trabajo?

Si este organismo alguna vez se crea, los modelos que uses a través de software de trabajo o aplicaciones de consumidor tendrían que pasar una revisión de seguridad antes del lanzamiento. Eso podría significar cronogramas de lanzamiento ligeramente más lentos, pero también significa que un conjunto independiente de ojos verificó si la herramienta puede ser manipulada para producir resultados peligrosos. Para la mayoría de los usuarios, el efecto práctico sería invisible, a menos que silenciosamente prevenga el próximo incidente de seguridad importante que involucre un producto de IA.

La dimensión China-EE.UU. añade presión. Los modelos de IA chinos de empresas como DeepSeek están ganando clientes entre las empresas estadounidenses, en parte por costo. Los legisladores estadounidenses ahora están considerando restricciones en su adopción. Un organismo de normalización doméstico casi con certeza se aplicaría también a modelos extranjeros vendidos en el mercado estadounidense.

Conclusión honesta: Un organismo de vigilancia de IA aún no es ley, y esta propuesta enfrenta verdaderos obstáculos políticos. Observa si el Congreso la retoma, no si los CEOs de tecnología continúan respaldándola.