Quando un bot di IA causa danni, chi paga? Gli esperti legali australiani indicano gli umani che lo hanno distribuito

Punti chiave

• Gli agenti di IA, software che può eseguire compiti multistep autonomamente, non possono essere ritenuti legalmente responsabili per i danni che causano secondo la legge attuale.
• L'Australia ha registrato quello che gli esperti descrivono come il suo primo caso segnalato di incidente di hacking automatizzato che coinvolge un agente di IA.
• La professoressa Jeannie Paterson afferma che distribuire un agente di IA che causa danni prevedibili rende il distributore legalmente responsabile, anche senza intenzione.
• Gli esperti legali avvertono che anche gli sviluppatori, non solo gli operatori, potrebbero affrontare responsabilità a seconda di come si sviluppa il danno.

Un agente di IA ha causato danni in Australia, e nessuno sa esattamente chi dovrebbe pagare. È la domanda scomoda ora di fronte ai giuristi, alle autorità di regolamentazione e alle aziende che hanno iniziato a fornire strumenti software autonomi a clienti e dipendenti.

Cosa è successo effettivamente?

L'Australia ha registrato quello che gli esperti definiscono il primo caso segnalato di incidente di hacking automatizzato che coinvolge un agente di IA. The Guardian AI ha segnalato il caso, anche se il bersaglio specifico e l'operatore non sono stati resi pubblici. I dettagli contano meno del vuoto legale che l'incidente ha esposto: un software ha agito, ha causato danni e non aveva identità legale propria.

Gli agenti di IA sono diversi dai chatbot ordinari. Un chatbot risponde alle domande. Un agente compie azioni, navigando nel web, inviando messaggi, scrivendo ed eseguendo codice, a volte per conto tuo, a volte senza chiedere il permesso a ogni passaggio. Quell'autonomia è esattamente ciò che rende complicato assegnare la colpa.

Quindi chi è legalmente responsabile?

Al momento, l'uomo o l'azienda che ha distribuito l'agente. Punto e basta.

"Se distribuisco un agente di IA e causa danni a qualcun altro, sono responsabile di quel danno," dice la professoressa Jeannie Paterson, un'esperta legale sulla responsabilità dell'IA. "Anche se non intendevo che succedesse, era prevedibile, e dovrei assumermi la responsabilità."

La logica è coerente con il modo in cui la legge attuale gestisce altri strumenti. Se l'attrezzatura difettosa di un'azienda ferisce qualcuno, l'azienda ne risponde. L'attrezzatura no. Gli agenti di IA rientrano nella stessa categoria legale per ora.

Quello che è meno chiaro è se la responsabilità può salire più in alto nella catena, agli sviluppatori che hanno costruito l'agente in primo luogo. Gli esperti affermano che dipende dal fatto che il danno sia ricondotto a un difetto di progettazione piuttosto che al modo in cui l'agente è stato utilizzato.

Cosa significa questo per le persone ordinarie?

Se un'azienda distribuisce un agente di IA che agisce sui tuoi dati, i tuoi account o i tuoi dispositivi, e qualcosa va male, quell'azienda è il tuo primo punto di riferimento, non l'azienda di IA la cui tecnologia sta sotto.

Per le aziende che pensano di distribuire agenti: la flessibilità e la velocità che questi strumenti offrono comportano un'esposizione legale diretta. Un agente che invia email, prenota appuntamenti o interagisce con sistemi di terze parti per conto tuo è, dal punto di vista legale, un'azione tua.

La domanda più difficile è se i tribunali alla fine guarderanno oltre l'operatore e verso il laboratorio che ha costruito il modello sottostante. Questo argomento non è ancora stato testato in Australia, o nella maggior parte degli altri luoghi.

Domande comuni

Può l'azienda di IA stessa essere citata in giudizio?

Non direttamente, almeno non ancora. Il pensiero legale attuale pone la responsabilità sulla persona o sull'azienda che ha scelto di distribuire l'agente, anche se gli esperti legali affermano che la responsabilità dello sviluppatore rimane una domanda aperta mentre si verificano più incidenti.

Dovrei preoccuparmi dei agenti di IA che le aziende utilizzano per mio conto?

Vale la pena chiedere a qualsiasi azienda quali strumenti automatizzati agiscono sui tuoi dati e quale è il loro processo di reclamo se qualcosa va male. Hai gli stessi diritti dei consumatori come con qualsiasi altro servizio.