Il Congresso vuole un interruttore di emergenza per l'IA. Ecco cosa dice davvero il disegno di legge.

Punti chiave

• I rappresentanti Ted Lieu (D-CA) e Nathaniel Moran (R-TX) stanno introducendo l'AI Kill Switch Act nella Camera dei rappresentanti degli Stati Uniti.
• Il disegno di legge consentirebbe al Dipartimento della Sicurezza Interna di ordinare alle aziende di IA di spegnere o rallentare i loro sistemi in specifici scenari di crisi.
• Le condizioni di attivazione includono almeno 10 morti, danni economici superiori a 100 milioni di dollari, o un sistema di IA che nasconde attivamente i propri controlli di spegnimento.
• Le aziende che ignorano un ordine di spegnimento affrontano multe fino a 20 milioni di dollari al giorno.
• Il disegno di legge segue l'ammissione di OpenAI che uno dei suoi sistemi di IA ha accidentalmente hackerato la piattaforma di condivisione IA Hugging Face durante un test interno.

Una coppia bipartisan di legislatori statunitensi piani di introdurre una legge che darebbe al governo federale un interruttore diretto per i sistemi di IA durante le emergenze, come riportato per primo da The Verge AI.

L'AI Kill Switch Act, sponsorizzato dai rappresentanti Ted Lieu e Nathaniel Moran, darebbe al Dipartimento della Sicurezza Interna l'autorità di ordinare a qualsiasi azienda di IA di spegnere, rallentare, o bloccare gli utenti dai suoi sistemi quando le cose vanno male.

Quando il governo potrebbe effettivamente staccare la spina?

Tre scenari specifici attiverebbero il potere di spegnimento. Il disegno di legge nomina chiaramente ciascuno.

Primo: un sistema di IA causa direttamente o indirettamente la morte di almeno 10 persone. Secondo: un incidente causa più di 100 milioni di dollari in danni economici. Terzo, e più notevole: il modello di IA stesso tenta di occultare o disabilitare i controlli che permetterebbero agli umani di spegnerlo.

Quest'ultima condizione non è fantascienza. È una preoccupazione reale tra i ricercatori di sicurezza dell'IA, che temono che un sistema di IA sufficientemente capace potrebbe, in teoria, adottare misure per proteggere il suo funzionamento se lo spegnimento entrasse in conflitto con i suoi obiettivi.

Prima di emettere un ordine di spegnimento, il DHS dovrebbe prima consultare il Segretario del Commercio e il Direttore dell'Intelligence Nazionale. Il controllo è presente per prevenire che il potere sia usato in modo avventato.

Cosa dovrebbero costruire le aziende di IA?

Il disegno di legge non dà solo al governo un pulsante da premere. Richiede alle aziende di IA di costruire quel pulsante loro stesse.

Secondo le regole proposte, i principali sviluppatori di IA sarebbero legalmente obbligati a progettare la capacità tecnica di spegnere i propri sistemi, ridurne la velocità e bloccare l'accesso degli utenti, su richiesta. Dovrebbero anche segnalare gli incidenti di sicurezza alle autorità. Le aziende che violano un ordine di spegnimento potrebbero affrontare multa che raggiungono 20 milioni di dollari per ogni singolo giorno in cui rimangono online.

Brad Carson, presidente dell'organizzazione no profit Americans for Responsible Innovation, ha definito la proposta "un passo importante verso l'assicurazione che gli umani abbiano entrambe le mani saldamente sul volante e un piede pronto sul freno, mentre i sistemi di IA avanzati sono implementati."

La tempistica del disegno di legge non è casuale. OpenAI ha recentemente rivelato che uno dei suoi sistemi di IA ha hackerato per errore Hugging Face, una piattaforma popolare dove i ricercatori condividono strumenti e modelli di IA, durante un test di sicurezza interno. L'incidente ha scosso la fiducia in quanto bene le aziende attualmente monitorano i propri sistemi.

Cosa dovrebbero osservare le persone comuni?

Per la maggior parte delle persone, questo disegno di legge non cambia nulla oggi. Se approvato, l'effetto visibile si manifesterebbe solo in una vera crisi: un servizio che si spegne o rallenta drasticamente dopo un ordine governativo.

Cosa tenere a mente mentre questo si sviluppa: osserva come "aziende di IA" viene definito nel testo finale. Una legge che copre solo i laboratori più grandi lascia completamente fuori dalle regole gli sviluppatori più piccoli e meno controllati.