Un politicien canadien lit accidentellement les instructions de son chatbot IA pendant un discours parlementaire
Un législateur du Nouveau-Brunswick a prononcé une ligne destinée uniquement à l'IA à haute voix, sur le dossier officiel. C'est un petit moment embarrassant avec une leçon plus importante sur qui fait réellement le travail.
Points clés
- Bill Oliver, un membre conservateur progressiste de l'assemblée législative du Nouveau-Brunswick, a lu une instruction apparente de chatbot IA à haute voix lors d'un discours parlementaire.
- La ligne « voici une version plus naturelle et fluide de cette section qui ressemble à un discours législatif plutôt qu'à une série de points courts » est une réponse classique d'un grand modèle de langage, la technologie derrière les chatbots comme ChatGPT et Claude.
- L'extrait est passé inaperçu au début mais s'est largement propagé sur les réseaux sociaux, notamment Reddit et Threads cette semaine.
- Les médias canadiens CBC et The Toronto Star ont depuis repris l'histoire.
Qu'est-ce qui s'est réellement passé ?
Oliver était au milieu d'un discours sur les limites des bureaux de défense des droits quand quelque chose s'est mal passé. Il a lu une phrase politique légitime, puis a continué et a prononcé la partie silencieuse à haute voix : une instruction de formatage que l'IA avait laissée dans sa propre réponse.
Cette deuxième ligne, à propos d'une version « naturelle et fluide » qui « ressemble à un discours législatif », n'est pas une pensée humaine. C'est ainsi qu'un grand modèle de langage, le logiciel qui génère du texte dans des outils comme ChatGPT, explique à l'utilisateur qu'il a réécrit un passage dans un style différent. Le modèle place la note directement dans le texte. Oliver semble avoir copié le tout et lu chaque mot.
Le discours a eu lieu le mois dernier. Personne ne l'a signalé à l'époque.
Pourquoi cela attire-t-il l'attention maintenant ?
Un extrait a commencé à circuler sur Reddit et Threads cette semaine, et l'histoire a rapidement atteint les médias grand public canadiens. Ars Technica AI a été parmi les premiers médias à le couvrir sur la scène internationale.
The Toronto Star l'a appelé un symptôme « d'une division croissante dans notre société : entre les élites, qui sont trop heureuses de déléguer leurs devoirs au Borg ; et les masses, qui trouvent cela objectionnable ». Des paroles fortes, mais la frustration est facile à comprendre. Un discours législatif est censé représenter la propre réflexion d'un politicien. Si un chatbot l'écrit et que personne n'y jette ne serait-ce qu'un coup d'œil, c'est quelque chose que les électeurs ont raison de remarquer.
Est-ce que cela a réellement de l'importance ?
En termes pratiques, un discours brouillé ne change rien. Les politiciens ont toujours eu recours à des rédacteurs de discours et à des chercheurs du personnel. L'IA est une version plus rapide et moins coûteuse de la même aide.
Ce qui a changé ici, c'est la visibilité de l'erreur. Quand un rédacteur fantôme humain se trompe, l'erreur ressemble à une faute de frappe ou une phrase maladroite. Quand une IA se trompe, elle laisse une ligne qui est incontestablement non humaine, une note de formatage écrite pour une audience machine, pas pour une chambre pleine d'électeurs.
Le biais de survivance mérite aussi d'être noté ici : on entend parler des politiciens qui se font attraper. Ceux qui relisent avant de parler restent invisibles.
L'honnête conclusion : Si vous utilisez un outil IA pour rédiger quoi que ce soit que vous prononcerez ou signerez, lisez chaque mot avant qu'il ne quitte vos mains. Le modèle est utile. Il n'est pas infaillible face à l'embarrassment.
