Un politico canadese legge accidentalmente le istruzioni del suo chatbot AI durante un discorso in aula

Punti chiave

• Bill Oliver, membro conservatore progressista dell'assemblea legislativa del New Brunswick, ha letto ad alta voce un'apparente istruzione di chatbot AI durante un discorso in aula.
• La riga, "qui c'è una versione più naturale e scorrevole di quella sezione che suona come un discorso legislativo piuttosto che una serie di punti brevi," è una risposta classica di un modello linguistico di grandi dimensioni, la tecnologia dietro chatbot come ChatGPT e Claude.
• La clip è passata inizialmente inosservata ma si è diffusa ampiamente sui social media, inclusi Reddit e Threads questa settimana.
• I media canadesi CBC e The Toronto Star hanno successivamente ripreso la notizia.

Cosa è successo effettivamente?

Oliver era a metà di un discorso sui limiti degli uffici di advocacy quando qualcosa è andato storto. Ha letto una legittima frase politica, poi ha continuato e ha detto la parte silenziosa ad alta voce: un'istruzione di formattazione che l'IA aveva lasciato dentro la propria risposta.

Quella seconda riga, su una "versione più naturale e scorrevole" che "suona come un discorso legislativo," non è un pensiero umano. È il modo in cui un modello linguistico di grandi dimensioni, il software che genera testo in strumenti come ChatGPT, spiega a un utente che ha riscritto un passaggio in uno stile diverso. Il modello inserisce la nota direttamente nel testo. Oliver sembra aver copiato tutto e letto ogni parola.

Il discorso è avvenuto il mese scorso. Nessuno lo ha segnalato allora.

Perché sta ricevendo attenzione ora?

Una clip ha iniziato a circolare su Reddit e Threads questa settimana, e la notizia ha rapidamente raggiunto i media mainstream canadesi. Ars Technica AI è stata tra i primi media a coprirlo a livello internazionale.

The Toronto Star l'ha definito un sintomo di "una crescente divisione nella nostra società: tra le élite, che sono più che felici di delegare i loro compiti al Borg; e le masse, che trovano questo inaccettabile." Parole forti, ma la frustrazione è facile da capire. Un discorso legislativo dovrebbe rappresentare il proprio pensiero di un politico. Se un chatbot lo scrive e nessuno nemmeno lo rivede, è una cosa giusta che gli elettori notino.

Questo importa davvero?

In termini pratici, un discorso confuso non cambia nulla. I politici hanno sempre utilizzato sceneggiatori e ricercatori dello staff. L'IA è una versione più veloce ed economica dello stesso aiuto.

Ciò che è cambiato qui è la visibilità dell'errore. Quando uno sceneggiatore umano commette un errore, l'errore sembra un refuso o una frase goffa. Quando un'IA commette un errore, lascia una riga che è chiaramente non umana, una nota di formattazione scritta per un pubblico di macchine, non per una camera piena di elettori.

Vale la pena notare anche il bias di sopravvivenza: sentiamo parlare dei politici che vengono colti. Quelli che leggono prima di parlare rimangono invisibili.

La lezione onesta: Se usi uno strumento di IA per bozze qualcosa che dirai o firmerai, leggi ogni singola parola prima che lasci le tue mani. Il modello è utile. Non è a prova di imbarazzo.