L'Australie prévoit des règles strictes sur la façon dont l'IA gouvernementale peut prendre des décisions vous concernant

Points clés

• Le gouvernement Albanese rédige un plan national pour régir l'utilisation de l'IA au sein des ministères et agences gouvernementales.
• Les règles devraient couvrir la protection des consommateurs, la sécurité au travail et la confidentialité.
• Le plan privilégie l'équité, la précision et la transparence dans les décisions gouvernementales automatisées.
• Une initiative Labor distincte pour une législation sur le « devoir de diligence numérique » accompagne le nouveau plan.

Lorsqu'une agence gouvernementale décide si vous êtes admissible à une prestation, un visa ou un permis, ce n'est peut-être pas un humain qui prend cette décision. C'est peut-être un algorithme, un ensemble d'instructions informatiques qui évalue vos détails et produit une réponse. Le gouvernement fédéral australien souhaite maintenant des règles strictes pour ce processus exact.

Des ministres de haut rang du gouvernement Albanese ont commencé à rédiger un plan national sur l'IA, d'abord rapporté par The Guardian, qui s'appliquerait à la prise de décision automatisée dans tous les ministères gouvernementaux. La prise de décision automatisée signifie simplement qu'un système informatique, et non une personne, aboutit à une conclusion qui affecte la vie de quelqu'un.

Le plan devrait s'étendre au-delà des bureaux gouvernementaux. Les protections des consommateurs, les règles de sécurité au travail et les garanties de confidentialité sont tous en jeu.

Cette initiative intervient alors que l'utilisation de l'IA au sein des agences publiques connaît une croissance rapide, et que l'Australie voit un boom dans la construction de centres de données, les grandes installations de type entrepôt remplies de serveurs informatiques qui stockent et traitent les charges de travail de l'IA.

Que signifie cela pour les gens ordinaires?

Si vous avez déjà eu une demande gouvernementale rejetée et vous êtes demandé pourquoi, ces règles sont destinées à vous donner une réponse plus claire. Le gouvernement Albanese affirme que son cadre privilégiera trois choses : l'équité, la précision et la transparence. En termes simples, cela signifie que le système doit traiter les gens équitablement, obtenir les faits correctement, et pouvoir expliquer son raisonnement.

Ce dernier point est le plus important. Actuellement, les systèmes automatisés peuvent rejeter une demande sans qu'aucun humain n'examine la logique. Les nouvelles règles visent à changer cela.

Parallèlement au plan national se trouve une proposition Labor distincte pour ce que le gouvernement appelle une loi sur le « devoir de diligence numérique ». Un devoir de diligence est une obligation légale d'éviter de causer du tort. Appliqué aux systèmes numériques, cela signifierait que les entreprises et agences qui déploient des outils d'IA portent une responsabilité légale si ces outils font du mal aux gens.

Aucune de ces deux pièces de législation n'est finale pour le moment. Les règles sont toujours en cours de rédaction.

Surveillez ces signes indiquant que les décisions gouvernementales automatisées peuvent vous affecter:

• Une lettre de rejet qui n'offre aucune raison spécifique, seulement un numéro de référence.
• Une décision qui arrive inhabituellement rapidement, sans agent de dossier nommé.
• Une demande de réapplication avec plus de documents, mais sans explication de ce qui s'est mal passé.

Si l'une de ces choses se produit, vous avez le droit de demander un examen humain. Ce droit existe déjà en vertu du droit administratif australien, et le nouveau plan est conçu pour le faciliter.

Les chercheurs et les groupes de la société civile qui demandent ces protections depuis des années verront de près si les règles finales ont du poids ou restent au niveau des lignes directrices.