L'Australia Pianifica Regole Severe su Come l'IA Governativa Può Prendere Decisioni su di Te

Punti chiave

• Il governo australiano di Albanese sta elaborando un piano nazionale per governare l'uso dell'IA all'interno dei dipartimenti e delle agenzie governative.
• Le regole dovrebbero coprire la protezione dei consumatori, la sicurezza sul lavoro e la privacy.
• Il piano dà priorità all'equità, all'accuratezza e alla trasparenza nelle decisioni governative automatizzate.
• Una spinta separata del Labor per una legislazione sulla "responsabilità digitale" sta procedendo insieme al nuovo piano.

Quando un'agenzia governativa decide se sei idoneo per un beneficio, un visto o una licenza, potrebbe non essere un umano a prendere quella decisione. Potrebbe essere un algoritmo, una serie di istruzioni informatiche che pesano i tuoi dettagli e producono una risposta. Il governo federale australiano ora vuole regole severe esattamente su quel processo.

Ministri senior del governo Albanese hanno iniziato a elaborare un piano nazionale sull'IA, riportato per primo da The Guardian, che si applicherebbe al processo decisionale automatizzato in tutti i dipartimenti governativi. Il processo decisionale automatizzato significa semplicemente che un sistema informatico, non una persona, giunge a una conclusione che influisce sulla vita di qualcuno.

Il piano dovrebbe estendersi oltre gli uffici governativi. Le protezioni dei consumatori, le norme sulla sicurezza sul lavoro e le garanzie sulla privacy sono tutti sul tavolo.

La spinta arriva mentre l'uso dell'IA all'interno delle agenzie pubbliche cresce rapidamente, e mentre l'Australia vede un boom nella costruzione di data center, le grandi strutture simili a magazzini piene di server informatici che immagazzinano ed elaborano i carichi di lavoro dell'IA.

Cosa significa questo per la gente ordinaria?

Se hai mai avuto una domanda governativa respinta e ti sei chiesto perché, queste regole hanno lo scopo di darti una risposta più chiara. Il governo Albanese afferma che il suo quadro darà priorità a tre cose: equità, accuratezza e trasparenza. In termini semplici, ciò significa che il sistema dovrebbe trattare le persone equamente, ottenere i fatti corretti e essere in grado di spiegare il suo ragionamento.

Quest'ultimo punto è il più importante. Al momento, i sistemi automatizzati possono rifiutare una domanda senza che nessun umano riveda la logica. Le nuove regole mirano a cambiare questo.

Insieme al piano nazionale procede una proposta separata del Labor per quella che il governo chiama una legge sulla "responsabilità digitale". Una responsabilità è un obbligo legale di evitare di causare danno. Applicata ai sistemi digitali, significherebbe che le aziende e le agenzie che distribuiscono strumenti di IA hanno una responsabilità legale se questi strumenti feriscono le persone.

Nessuno dei due testi legislativi è ancora definitivo. Le regole sono ancora in fase di elaborazione.

Guarda questi segni che le decisioni governative automatizzate potrebbero interessarti:

• Una lettera di rifiuto che non offre nessuna ragione specifica, solo un numero di riferimento.
• Una decisione che arriva insolitamente velocemente, senza alcun nome dell'operatore dei casi.
• Una richiesta di ripresentazione con più documenti, ma senza spiegazione di cosa è andato storto.

Se uno di questi accade, hai il diritto di chiedere una revisione umana. Questo diritto esiste già secondo il diritto amministrativo australiano, e il nuovo piano è progettato per facilitare l'esercizio di questo diritto.

I ricercatori e i gruppi della società civile che stanno premendo per queste protezioni da anni guarderanno da vicino per vedere se le regole finali hanno forza o rimangono a livello di linee guida.