Substack permet désormais aux lecteurs de détecter les textes générés par l'IA

Points clés

• Substack a commencé à déployer un outil de détection de texte généré par l'IA sur sa plateforme web et son application iOS mardi.
• L'outil est alimenté par Pangram, une entreprise spécialisée dans la détection de l'IA, et fonctionne sur tout contenu de plus de 100 mots.
• Les rédacteurs peuvent aussi analyser leurs brouillons avec Pangram avant la publication et signaler les résultats qu'ils jugent inexacts.
• Le PDG de Substack, Chris Best, a inventé le terme « Claudefishing » pour décrire le contenu qui trompe les lecteurs en leur faisant croire qu'une personne l'a écrit.

Substack souhaite que ses lecteurs sachent si une vraie personne a écrit ce qu'ils lisent, ou si une machine a effectué la majeure partie du travail.

La plateforme de newsletters et de réseaux sociaux a commencé à déployer un outil de détection d'IA intégré, alimenté par une entreprise appelée Pangram, qui se spécialise dans l'identification des textes générés par l'IA. Les lecteurs peuvent déclencher une analyse sur n'importe quel article, note, réponse ou commentaire de plus de 100 mots. Il suffit d'appuyer sur le menu à trois points dans le coin supérieur droit d'un article et de choisir « Analyser le texte généré par l'IA ». L'outil fournit une estimation de la proportion du texte qui pourrait provenir d'une IA ou avoir été fortement assistée par celle-ci.

La fonction est disponible sur le web et l'application Substack iOS dès maintenant. Le support Android arrivera bientôt, selon un premier rapport de The Verge AI.

Chris Best, co-fondateur et PDG de Substack, a présenté ce mouvement comme un problème de confiance, non comme une interdiction technologique. « Le problème fondamental n'est pas que les gens utilisent l'IA, ni la qualité de son résultat », a écrit Best dans un billet de blog. « Le problème survient quand il y a un décalage entre les attentes du lecteur et la réalité. »

Best a donné un nom à ce décalage : le Claudefishing. C'est un jeu de mots sur le catfishing, où quelqu'un se fait passer en ligne pour quelqu'un d'autre, sauf qu'ici un rédacteur prétend que la pensée humaine se cache derrière un texte qu'un grand modèle de langage, la technologie qui alimente les chatbots comme ChatGPT, a en réalité produit.

L'outil a de véritables limites. Best en est transparent. Pangram peut vous dire si l'IA a façonné les mots de la page. Il ne peut pas vous dire si le rédacteur a passé des heures à diriger, éditer et vérifier les faits de ce résultat généré par l'IA. Un article réfléchi et assisté et un article généré avec peu d'effort pourraient obtenir des scores similaires.

Pour combler cette lacune, Substack ajoute également une déclaration facultative « Comment je crée ceci », où les rédacteurs peuvent expliquer leur processus avec leurs propres mots. Pensez-y comme à un tableau nutritionnel pour le travail créatif.

Les lecteurs doivent-ils faire confiance aux résultats de l'analyse ?

Considérez-les comme un signal utile, non comme un verdict. L'estimation de Pangram est une probabilité, pas une preuve. Best lui-même note qu'elle peut produire des résultats inexacts, ce qui est exactement pourquoi les rédacteurs ont la possibilité de signaler et contester un score qu'ils jugent incorrect.

Pour les lecteurs Substack ordinaires, le résultat pratique est simple. Si vous payez pour une newsletter ou accordez votre attention à un rédacteur, vous avez désormais un moyen rapide de vérifier si une personne a vraiment rédigé ce que vous lisez. C'est plus que ce que proposent la plupart des plateformes.

Best l'a dit clairement : « Les plateformes qui récompensent la fausseté créeront une course vers le bas. »