Substack consente ora ai lettori di scansionare i post per individuare testi scritti da IA

Punti chiave

• Substack ha iniziato a distribuire uno strumento di rilevamento del testo IA sulla sua piattaforma web e sull'app iOS martedì.
• Lo strumento è alimentato da Pangram, un'azienda specializzata nel rilevamento dell'IA, e funziona su qualsiasi contenuto più lungo di 100 parole.
• Gli scrittori possono anche scansionare le loro bozze con Pangram prima della pubblicazione e segnalare i risultati che ritengono errati.
• L'amministratore delegato di Substack Chris Best ha coniato il termine "Claudefishing" per descrivere contenuti che ingannano i lettori facendo credere che siano stati scritti da un umano.

Substack vuole che i suoi lettori sappiano se ciò che stanno leggendo è stato scritto da una persona reale o se è stato prodotto principalmente da una macchina.

La piattaforma di newsletter e social ha iniziato a distribuire uno strumento di rilevamento dell'IA integrato, alimentato da un'azienda chiamata Pangram, specializzata nell'identificazione di testi generati dall'IA. I lettori possono attivare una scansione su qualsiasi post, nota, risposta o commento più lungo di 100 parole. Basta toccare il menu a tre punti nell'angolo in alto a destra di un post e scegliere "Scansiona per testo IA". Lo strumento fornisce una stima di quanto della scrittura potrebbe provenire da un'IA o essere stata pesantemente assistita da una.

La funzione è ora disponibile sul web e sull'app iOS di Substack. Il supporto per Android arriverà presto, secondo quanto riferito per primo da The Verge AI.

Chris Best, co-fondatore e amministratore delegato di Substack, ha inquadrato la mossa come un problema di fiducia, non come un divieto tecnologico. "Il problema fondamentale non è che le persone utilizzino l'IA o la qualità dei suoi risultati", ha scritto Best in un post sul blog. "Il problema è quando c'è una discrepanza tra le aspettative del lettore e la realtà".

Best ha dato un nome a questa discrepanza: Claudefishing. È un gioco di parole su catfishing, dove qualcuno finge online di essere qualcun altro, solo che qui uno scrittore finge che il pensiero umano sia stato investito in un testo che in realtà un modello linguistico di grandi dimensioni, la tecnologia dietro chatbot come ChatGPT, ha prodotto.

Lo strumento ha limiti reali. Best è trasparente al riguardo. Pangram può dirvi se l'IA ha influenzato le parole sulla pagina. Non può dirvi se lo scrittore ha dedicato ore a dirigere attentamente, modificare e verificare l'accuratezza di quell'output dell'IA. Un pezzo assistito con attenzione e uno generato negligentemente potrebbero ottenere risultati simili.

Per colmare questo divario, Substack sta anche aggiungendo una dichiarazione volontaria "Come faccio questo", dove gli scrittori possono spiegare il loro processo con le loro stesse parole. Pensatela come un'etichetta nutrizionale per il lavoro creativo.

I lettori dovrebbero fidarsi dei risultati della scansione?

Trattarli come un segnale utile, non come un verdetto. La stima di Pangram è una probabilità, non una prova. Best stesso nota che può produrre risultati inaccurati, ed è esattamente per questo che gli scrittori hanno la possibilità di segnalare e contestare un punteggio che ritengono errato.

Per i lettori ordinari di Substack, il risultato pratico è semplice. Se state pagando per una newsletter o offrendo attenzione a uno scrittore, ora avete un modo rapido per verificare se un umano ha effettivamente redatto ciò che state leggendo. È più di quanto offra la maggior parte delle piattaforme.

Best l'ha messo chiaramente: "Le piattaforme che premiano la falsità creeranno una corsa verso il basso".