Austrália Planeia Regras Rigorosas sobre Como a IA Governamental Pode Tomar Decisões sobre Si

Pontos-chave

• O governo Albanese da Austrália está a elaborar um plano nacional para regular a utilização de IA nos departamentos e agências governamentais.
• As regras devem cobrir proteções ao consumidor, segurança no local de trabalho e privacidade.
• O plano prioriza a equidade, a precisão e a transparência nas decisões governamentais automatizadas.
• Um esforço separado do Labor para legislação de "dever de cuidado digital" está a decorrer em paralelo com o novo plano.

Quando uma agência governamental decide se se qualifica para uma prestação, um visto ou uma licença, pode não ser um humano a tomar essa decisão. Pode ser um algoritmo, um conjunto de instruções informáticas que analisa os seus dados e produz uma resposta. O governo federal australiano agora quer regras rigorosas sobre exatamente esse processo.

Ministros seniores do governo Albanese começaram a redigir um plano nacional de IA, inicialmente reportado por The Guardian, que se aplicaria à tomada de decisões automatizadas em todos os departamentos governamentais. Tomada de decisões automatizadas significa simplesmente um sistema informático, não uma pessoa, a chegar a uma conclusão que afeta a vida de alguém.

O plano deverá ir além dos escritórios governamentais. Proteções ao consumidor, regras de segurança no local de trabalho e salvaguardas de privacidade estão todas sobre a mesa.

O impulso surge à medida que o uso de IA dentro de agências públicas cresce rapidamente, e enquanto a Austrália vê um boom de construção em centros de dados, as grandes instalações semelhantes a armazéns repletas de servidores informáticos que armazenam e processam cargas de trabalho de IA.

O que isto significa para as pessoas comuns?

Se alguma vez teve uma candidatura governamental rejeitada e se perguntou porquê, estas regras têm o objetivo de lhe dar uma resposta mais clara. O governo Albanese diz que o seu enquadramento priorizará três coisas: equidade, precisão e transparência. Em termos simples, isto significa que o sistema deve tratar as pessoas de forma igual, obter os factos corretos e ser capaz de explicar o seu raciocínio.

Este último ponto é o mais importante. Neste momento, os sistemas automatizados podem rejeitar uma candidatura sem qualquer revisão humana da lógica. As novas regras visam mudar isso.

A correr em paralelo com o plano nacional está uma proposta separada do Labor para o que o governo chama de lei de "dever de cuidado digital". Um dever de cuidado é uma obrigação legal de evitar causar danos. Aplicado a sistemas digitais, significaria que as empresas e agências que implementam ferramentas de IA têm uma responsabilidade legal se essas ferramentas prejudicarem as pessoas.

Nenhuma das peças de legislação está ainda finalizada. As regras ainda estão a ser redigidas.

Procure por estes sinais de que decisões governamentais automatizadas podem afetá-lo:

• Uma carta de rejeição que não oferece nenhuma razão específica, apenas uma referência.
• Uma decisão que chega inusitadamente rápida, sem nenhum responsável identificado.
• Um pedido para reapresentar candidatura com mais documentos, mas sem explicação do que correu mal.

Se qualquer uma dessas situações acontecer, tem o direito de pedir uma revisão humana. Este direito já existe sob a lei administrativa australiana, e o novo plano é projetado para facilitar o seu exercício.

Investigadores e grupos da sociedade civil que têm estado a pressionar por estas proteções há anos estarão a observar atentamente para ver se as regras finais têm força ou se ficam ao nível de orientações.