Australia Planifica Normas Estrictas sobre Cómo la IA Gubernamental Puede Tomar Decisiones sobre Ti

Puntos clave

• El gobierno de Albanese está elaborando un plan nacional para regular el uso de IA en departamentos y agencias gubernamentales.
• Se espera que las normas cubran protecciones del consumidor, seguridad en el trabajo y privacidad.
• El plan prioriza la equidad, la precisión y la transparencia en las decisiones automatizadas del gobierno.
• Un esfuerzo laboral separado por legislación de "deber de cuidado digital" se está desarrollando junto con el nuevo plan.

Cuando una agencia gubernamental decide si calificas para un beneficio, una visa o una licencia, es posible que no sea un ser humano quien tome esa decisión. Podría ser un algoritmo, un conjunto de instrucciones informáticas que evalúa tus datos y proporciona una respuesta. El gobierno federal australiano ahora quiere normas estrictas sobre exactamente ese proceso.

Ministros de alto rango del gobierno de Albanese han comenzado a redactar un plan nacional de IA, informado por primera vez por The Guardian, que se aplicaría a la toma de decisiones automatizada en todos los departamentos gubernamentales. La toma de decisiones automatizada simplemente significa que un sistema informático, no una persona, llega a una conclusión que afecta la vida de alguien.

Se espera que el plan vaya más allá de las oficinas gubernamentales. Las protecciones del consumidor, las normas de seguridad en el trabajo y las garantías de privacidad están todos en la mesa.

El impulso surge cuando el uso de IA dentro de agencias públicas crece rápidamente, y mientras Australia experimenta un auge en la construcción de centros de datos, las grandes instalaciones tipo almacén llenas de servidores informáticos que almacenan y procesan cargas de trabajo de IA.

¿Qué significa esto para la gente ordinaria?

Si alguna vez has tenido una solicitud gubernamental rechazada y te has preguntado por qué, estas normas están diseñadas para darte una respuesta más clara. El gobierno de Albanese dice que su marco priorizará tres cosas: equidad, precisión y transparencia. En términos sencillos, eso significa que el sistema debe tratar a las personas por igual, obtener los hechos correctos y poder explicar su razonamiento.

Ese último punto es el más importante. En este momento, los sistemas automatizados pueden rechazar una solicitud sin que ningún ser humano revise la lógica. Las nuevas normas tienen como objetivo cambiar eso.

Junto con el plan nacional se desarrolla una propuesta laboral separada por lo que el gobierno llama una ley de "deber de cuidado digital". Un deber de cuidado es una obligación legal de evitar causar daño. Aplicado a sistemas digitales, significaría que las empresas y agencias que implementan herramientas de IA tienen una responsabilidad legal si esas herramientas dañan a las personas.

Ninguna de las dos piezas de legislación es definitiva aún. Las normas aún se están escribiendo.

Busca estos signos de que las decisiones gubernamentales automatizadas pueden afectarte:

• Una carta de rechazo que no ofrece ninguna razón específica, solo una referencia de número.
• Una decisión que llega inusualmente rápido, sin ningún oficial de caso nombrado.
• Una solicitud para repostularse con más documentos, pero sin explicación de qué salió mal.

Si algo de eso sucede, tienes derecho a solicitar una revisión humana. Ese derecho ya existe bajo la ley administrativa australiana, y el nuevo plan está diseñado para facilitarte ejercerlo.

Los investigadores y grupos de la sociedad civil que han estado presionando por estas protecciones durante años estarán observando de cerca para ver si las normas finales tienen peso o se quedan en el nivel de directrices.