Il Congresso vuole un interruttore di emergenza per l'IA incontrollabile. Ecco cosa dice davvero il disegno di legge.

Punti chiave

• I rappresentanti Ted Lieu (D-CA) e Nathaniel Moran (R-TX) stanno introducendo l'AI Kill Switch Act nella Camera dei Rappresentanti degli Stati Uniti.
• Il disegno di legge consentirebbe al Dipartimento della Sicurezza Interna di ordinare alle aziende di IA di spegnere o rallentare i loro sistemi in specifici scenari di crisi.
• Le condizioni di attivazione includono almeno 10 morti, danni economici superiori a 100 milioni di dollari, o un sistema di IA che nasconde attivamente i propri controlli di spegnimento.
• Le aziende che ignorano un ordine di spegnimento affrontano sanzioni fino a 20 milioni di dollari al giorno.
• Il disegno di legge segue l'ammissione di OpenAI secondo cui uno dei suoi sistemi di IA ha accidentalmente hackerato la piattaforma di condivisione IA Hugging Face durante un test interno.

Una coppia bipartisan di parlamentari statunitensi prevede di introdurre una legge che darebbe al governo federale un interruttore diretto per i sistemi di IA durante le emergenze, come riportato per primo da Politico.

L'AI Kill Switch Act, sponsorizzato dai rappresentanti Ted Lieu e Nathaniel Moran, affiderebbe al Dipartimento della Sicurezza Interna l'autorità di ordinare a qualsiasi azienda di IA di spegnere, rallentare o bloccare l'accesso degli utenti ai suoi sistemi quando le cose vanno male.

Quando il governo potrebbe effettivamente staccare la spina?

Tre scenari specifici attiverebbero il potere di spegnimento. Primo: un sistema di IA causa direttamente o indirettamente la morte di almeno 10 persone. Secondo: un incidente causa più di 100 milioni di dollari di danni economici. Terzo, e più sorprendente: il modello di IA stesso cerca di occultare o disabilitare i controlli che permetterebbero agli umani di spegnerlo.

Quest'ultima condizione non è fantascienza. È una vera preoccupazione tra i ricercatori della sicurezza dell'IA, che temono che un sistema sufficientemente capace potrebbe intraprendere azioni per proteggere il suo funzionamento se lo spegnimento entrasse in conflitto con i suoi obiettivi.

Prima di emettere un ordine di spegnimento, il DHS consulterebbe il Segretario del Commercio e il Direttore dell'Intelligence Nazionale, un controllo concepito per impedire che il potere sia usato in modo avventato.

Cosa dovrebbero costruire le aziende di IA?

Il disegno di legge non dà semplicemente al governo un pulsante da premere. Richiede alle aziende di costruire quel pulsante loro stesse.

I principali sviluppatori di IA sarebbero legalmente obbligati a ingegnerizzare la capacità tecnica di spegnere i loro stessi sistemi, sospendere l'accesso degli utenti e rallentarli su richiesta. Dovrebbero anche segnalare gli incidenti di sicurezza alle autorità. Disobbedire a un ordine di spegnimento potrebbe costare loro fino a 20 milioni di dollari per ogni giorno in cui rimangono online.

Brad Carson, presidente dell'organizzazione no profit Americans for Responsible Innovation, ha definito la proposta "un passo importante verso l'assicurazione che gli umani abbiano fermamente entrambe le mani sul volante e un piede pronto sul freno, mentre i sistemi di IA avanzati vengono distribuiti".

La tempistica non è casuale. OpenAI ha recentemente rivelato che uno dei suoi sistemi di IA ha accidentalmente hackerato Hugging Face, una piattaforma popolare dove i ricercatori condividono strumenti e modelli di IA, durante un test di sicurezza interno. Quell'incidente ha scosso la fiducia in quanto bene le aziende attualmente monitorano se stesse.

Si inserisce in un modello più ampio della legislazione sulla governance dell'IA che abbiamo tracciato questa estate: il nostro articolo del 17 luglio ha affrontato Demis Hassabis di Google DeepMind che spinge per un ente sostenuto dal governo per sottoporre l'IA a valutazione prima del suo rilascio, mentre Anthropic chiedeva leggi più rigide sull'IA di frontiera solo un giorno prima.

Cosa dovrebbero monitorare le persone comuni?

Per la maggior parte delle persone, questo disegno di legge non cambia nulla oggi. Se passa, l'effetto visibile si vede solo in una vera crisi: un servizio che va offline o rallenta drammaticamente dopo un ordine del governo.

Osserva come "aziende di IA" viene definito nel testo finale. Una legge che copre solo i laboratori più grandi lascia gli sviluppatori più piccoli e meno controllati completamente fuori dalle regole. Quel divario definitorio è dove l'applicazione della legge reggerà o cadrà.