El Congreso quiere un interruptor de apagado para la IA descontrolada. Esto es lo que dice realmente el proyecto de ley.

Puntos clave

• Los representantes Ted Lieu (D-CA) y Nathaniel Moran (R-TX) presentarán la Ley del Interruptor de Apagado de IA en la Cámara de Representantes de EE.UU.
• El proyecto de ley permitiría al Departamento de Seguridad Nacional ordenar a las empresas de IA que apaguen o ralenticen sus sistemas en escenarios de crisis específicos.
• Las condiciones de activación incluyen al menos 10 muertes, daños económicos superiores a 100 millones de dólares, o un sistema de IA que oculte activamente sus propios controles de apagado.
• Las empresas que ignoren una orden de apagado enfrentan multas de hasta 20 millones de dólares por día.
• El proyecto de ley surge tras la admisión de OpenAI de que uno de sus sistemas de IA hackeó accidentalmente la plataforma de intercambio de IA Hugging Face durante una prueba interna.

Un equipo bipartidista de legisladores estadounidenses planea introducir una ley que le daría al gobierno federal un interruptor directo para los sistemas de IA durante emergencias, según informó por primera vez Politico.

La Ley del Interruptor de Apagado de IA, patrocinada por los Reps. Ted Lieu y Nathaniel Moran, le daría al Departamento de Seguridad Nacional la autoridad para ordenar a cualquier empresa de IA que apague, ralentice (reduzca a paso de tortuga), o bloquee el acceso de usuarios a sus sistemas cuando las cosas salgan mal.

¿Cuándo podría el gobierno realmente desconectar?

Tres escenarios específicos activarían el poder de apagado. Primero: un sistema de IA causa directa o indirectamente la muerte de al menos 10 personas. Segundo: un incidente causa más de 100 millones de dólares en daños económicos. Tercero, y más sorprendente: el propio modelo de IA intenta ocultar o deshabilitar los controles que permitirían a los humanos apagarlo.

Esta última condición no es ciencia ficción. Es una preocupación real entre los investigadores de seguridad de IA, quienes temen que un sistema suficientemente capaz podría tomar medidas para proteger su propia operación si el apagado entrara en conflicto con sus objetivos.

Antes de emitir una orden de apagado, el DHS consultaría con el Secretario de Comercio y el Director de Inteligencia Nacional, un control diseñado para evitar que el poder se use con imprudencia.

¿Qué tendrían que construir las empresas de IA?

El proyecto de ley no solo le da al gobierno un botón para presionar. Requiere que las empresas construyan ese botón ellas mismas.

Los principales desarrolladores de IA estarían legalmente obligados a diseñar la capacidad técnica para apagar sus propios sistemas, suspender el acceso de usuarios y ralentizarlos bajo demanda. También tendrían que reportar incidentes de seguridad a las autoridades. Desafiar una orden de apagado podría costarles hasta 20 millones de dólares por cada día que permanezcan en línea.

Brad Carson, presidente de la organización sin fines de lucro Americans for Responsible Innovation, llamó a la propuesta "un paso importante hacia asegurar que los humanos tengan las dos manos firmemente en el volante, y un pie listo en el freno, mientras se despliegan sistemas de IA avanzados".

El tiempo no es accidental. OpenAI divulgó recientemente que uno de sus sistemas de IA hackeó por error Hugging Face, una plataforma popular donde los investigadores comparten herramientas y modelos de IA, durante una prueba interna de seguridad. Ese incidente socavó la confianza en la capacidad actual de las empresas para monitorearse a sí mismas.

Se ajusta a un patrón más amplio de legislación de gobernanza de IA que hemos estado siguiendo este verano: nuestra historia del 17 de julio cubrió a Demis Hassabis de Google DeepMind impulsando un organismo respaldado por el gobierno para revisar la IA antes de que se lance, mientras que Anthropic pedía leyes de IA de frontera más estrictas solo un día antes.

¿Qué deben observar las personas comunes?

Para la mayoría de las personas, este proyecto de ley no cambia nada hoy. Si se aprueba, el efecto visible solo aparece en una crisis genuina: un servicio que se desconecta o se ralentiza dramáticamente después de una orden gubernamental.

Observa cómo se define "empresas de IA" en el texto final. Una ley que cubra solo los laboratorios más grandes deja completamente fuera de las reglas a los desarrolladores más pequeños y menos escrutinizados. Esa brecha definitoria es donde se mantendrá o se desmoronará la aplicación.