Australien plant strikte Regeln für staatliche KI-Entscheidungen über Bürger

Wichtigste Punkte

• Die australische Regierung Albanese entwirft einen nationalen Plan zur Regulierung der KI-Nutzung in Regierungsbehörden und -abteilungen.
• Die Regeln sollen Verbraucherschutz, Arbeitsplatzsicherheit und Datenschutz abdecken.
• Der Plan priorisiert Fairness, Genauigkeit und Transparenz bei automatisierten staatlichen Entscheidungen.
• Eine separate Labour-Initiative für Gesetze zur „digitalen Sorgfaltspflicht" läuft parallel zum neuen Plan.

Wenn eine Behörde entscheidet, ob Sie Anspruch auf einen Zuschuss, ein Visum oder eine Lizenz haben, könnte nicht unbedingt ein Mensch diese Entscheidung treffen. Es könnte ein Algorithmus sein – eine Reihe von Computeranweisungen, die Ihre Daten wiegen und eine Antwort ausgeben. Die australische Bundesregierung möchte nun strikte Regeln für genau diesen Prozess einführen.

Hochrangige Minister der Regierung Albanese haben damit begonnen, einen nationalen KI-Plan zu entwerfen, der erstmals von The Guardian berichtet wurde und automatisierte Entscheidungsfindung in Regierungsabteilungen regeln würde. Automatisierte Entscheidungsfindung bedeutet einfach, dass ein Computersystem statt einer Person zu einem Schluss kommt, der das Leben einer Person beeinflusst.

Der Plan soll über Regierungsbüros hinausgehen. Verbraucherschutzbestimmungen, Arbeitsplatzsicherheitsregeln und Datenschutzvorkehrungen sind alle Gegenstand der Überlegungen.

Diese Initiative kommt zu einem Zeitpunkt, zu dem die KI-Nutzung in öffentlichen Behörden schnell wächst und Australien einen Bauboom bei Rechenzentren erlebt – große lagerhahnliche Einrichtungen voller Computerserver, die KI-Arbeitslasten speichern und verarbeiten.

Was bedeutet das für normale Menschen?

Wenn Ihr Regierungsantrag jemals abgelehnt wurde und Sie sich fragten warum, sollen diese Regeln Ihnen eine klarere Antwort geben. Die Regierung Albanese sagt, dass ihr Rahmen drei Dinge priorisiert: Fairness, Genauigkeit und Transparenz. Praktisch bedeutet das, dass das System Menschen gleich behandeln, die Fakten richtig erfassen und seine Überlegungen erklären kann.

Der letzte Punkt ist am wichtigsten. Derzeit können automatisierte Systeme einen Antrag ablehnen, ohne dass ein Mensch die Logik überprüft. Die neuen Regeln sollen das ändern.

Neben dem nationalen Plan läuft ein separater Labour-Vorschlag für das, was die Regierung ein Gesetz zur „digitalen Sorgfaltspflicht" nennt. Eine Sorgfaltspflicht ist eine rechtliche Verpflichtung, Schäden zu vermeiden. Auf digitale Systeme angewendet, würde das bedeuten, dass Unternehmen und Behörden, die KI-Tools einsetzen, eine rechtliche Verantwortung tragen, wenn diese Tools Menschen schaden.

Keine der beiden Gesetzesvorhaben ist noch endgültig. Die Regeln werden noch geschrieben.

Achten Sie auf diese Zeichen, dass automatisierte Behördenbeschlüsse Sie betreffen könnten:

• Ein Ablehnungsschreiben, das keinen konkreten Grund angibt, sondern nur eine Referenznummer.
• Ein Beschluss, der ungewöhnlich schnell kommt, ohne dass ein Sachbearbeiter genannt wird.
• Eine Aufforderung, mit mehr Dokumenten erneut Antrag zu stellen, aber ohne Erklärung, was schief gelaufen ist.

Falls eines dieser Szenarien auftritt, haben Sie das Recht, eine menschliche Überprüfung zu verlangen. Dieses Recht besteht bereits unter australischem Verwaltungsrecht, und der neue Plan soll es leichter machen, es auszuüben.

Forscher und Zivilgesellschaftsgruppen, die seit Jahren auf diese Schutzmaßnahmen drängen, werden genau beobachten, ob die endgültigen Regeln verbindlich sind oder nur auf der Ebene von Richtlinien bleiben.