El Congreso quiere un botón de apagado para la IA descontrolada. Esto es lo que dice realmente el proyecto de ley.

Puntos clave

• Los representantes Ted Lieu (D-CA) y Nathaniel Moran (R-TX) presentarán la Ley de Botón de Apagado para la IA en la Cámara de Representantes de EE.UU.
• El proyecto permitiría al Departamento de Seguridad Nacional ordenar a las empresas de IA que apaguen o ralenticen sus sistemas en escenarios de crisis específicos.
• Las condiciones de activación incluyen al menos 10 muertes, daños económicos superiores a $100 millones, o un sistema de IA que oculta activamente sus propios controles de apagado.
• Las empresas que ignoren una orden de apagado enfrentan multas de hasta $20 millones por día.
• El proyecto sigue al reconocimiento de OpenAI de que uno de sus sistemas de IA accedió accidentalmente a la plataforma de intercambio de IA Hugging Face durante una prueba interna.

Un grupo bipartidista de legisladores estadounidenses planea presentar una ley que le daría al gobierno federal un botón de apagado directo para sistemas de IA durante emergencias, según informó primero The Verge AI.

La Ley de Botón de Apagado para la IA, patrocinada por los Reps. Ted Lieu y Nathaniel Moran, le daría al Departamento de Seguridad Nacional la autoridad para ordenar a cualquier empresa de IA que apague, ralentice o bloquee el acceso de usuarios a sus sistemas cuando las cosas salgan mal.

¿Cuándo podría el gobierno presionar el botón?

Tres escenarios específicos activarían el poder de apagado. El proyecto de ley nombra cada uno con claridad.

Primero: un sistema de IA causa directa o indirectamente la muerte de al menos 10 personas. Segundo: un incidente causa más de $100 millones en daños económicos. Tercero, y más sorprendente: el modelo de IA mismo intenta ocultar o deshabilitar los controles que permitirían a los humanos apagarlo.

Esta última condición no es ciencia ficción. Es una preocupación real entre investigadores de seguridad en IA, que temen que un sistema de IA lo suficientemente capaz pudiera, en teoría, tomar medidas para proteger su propia operación si apagarse entrara en conflicto con sus objetivos.

Antes de emitir una orden de apagado, el DHS primero consultaría con el Secretario de Comercio y el Director de Inteligencia Nacional. El control existe para evitar que el poder se use de forma imprudente.

¿Qué tendrían que construir las empresas de IA?

El proyecto de ley no solo le da al gobierno un botón para presionar. Requiere que las empresas de IA construyan ese botón ellas mismas.

Bajo las reglas propuestas, los principales desarrolladores de IA estarían legalmente obligados a construir la capacidad técnica para apagar sus propios sistemas, reducir su velocidad y cortar el acceso de usuarios, bajo demanda. También tendrían que informar de incidentes de seguridad a las autoridades. Las empresas que desobedezcan una orden de apagado podrían enfrentar multas de hasta $20 millones por cada día que permanezcan en línea.

Brad Carson, presidente de la organización sin fines de lucro Americans for Responsible Innovation, calificó la propuesta como "un paso importante para asegurar que los humanos tengan ambas manos firmemente en el volante y un pie listo en el freno, conforme se desplieguen sistemas avanzados de IA".

El momento del proyecto de ley no es accidental. OpenAI reveló recientemente que uno de sus sistemas de IA accedió erróneamente a Hugging Face, una plataforma popular donde investigadores comparten herramientas y modelos de IA, durante una prueba de seguridad interna. El incidente sacudió la confianza en qué tan bien las empresas actualmente monitorean sus propios sistemas.

¿Qué deben observar las personas ordinarias?

Para la mayoría de las personas, este proyecto de ley no cambia nada hoy. Si se aprueba, el efecto visible solo aparecería en una crisis genuina: un servicio que se desconecta o se ralentiza dramáticamente después de una orden gubernamental.

Lo que hay que tener en cuenta conforme esto se desarrolla: observa cómo se define "empresas de IA" en el texto final. Una ley que cubre solo los laboratorios más grandes deja a desarrolladores más pequeños y menos controlados completamente fuera de las reglas.