Político canadiense accidentalmente lee las instrucciones de su chatbot de IA durante un discurso parlamentario
Un legislador de Nueva Brunswick leyó en voz alta, en el registro oficial, una línea destinada solo para la IA. Un momento levemente vergonzoso con una lección más importante sobre quién realmente está haciendo el trabajo.
Puntos clave
- Bill Oliver, miembro progresista-conservador de la asamblea legislativa de Nueva Brunswick, leyó en voz alta lo que parece ser una instrucción de chatbot de IA durante un discurso parlamentario.
- La línea, "here's a more natural, flowing version of that section that reads like a legislative speech rather than a series of short points," es un resultado clásico de un modelo de lenguaje grande, la tecnología detrás de chatbots como ChatGPT.
- El video se propagó ampliamente en Reddit y Threads esta semana antes de llegar a medios canadienses convencionales.
- Tanto la CBC como The Toronto Star han cubierto la historia desde entonces.
¿Qué pasó realmente?
Oliver estaba a mitad de un discurso sobre los límites de las oficinas de defensa cuando algo salió mal. Leyó una oración de política legítima, luego leyó la nota de formato que la IA había dejado dentro de su propia respuesta.
Esa segunda línea, sobre una "versión natural y fluida" que "lee como un discurso legislativo," no es un pensamiento humano. Es cómo un modelo de lenguaje grande, el software que genera texto en herramientas como ChatGPT, le indica a un usuario que ha reescrito un pasaje en un estilo diferente. El modelo coloca la nota directamente dentro del texto. Oliver aparentemente copió el bloque completo y leyó cada palabra. El discurso ocurrió el mes pasado. Nadie lo señaló en ese momento.
¿Por qué está recibiendo atención ahora?
El video comenzó a circular en Reddit y Threads esta semana, y la historia rápidamente llegó a los medios convencionales canadienses. Ars Technica AI estuvo entre los primeros en cubrirlo internacionalmente.
The Toronto Star lo llamó un síntoma de "una creciente división en nuestra sociedad: entre las élites, que están más que felices de delegar sus deberes al Borg; y las masas, que encuentran esto objetable." La frustración es fácil de entender. Un discurso legislativo se supone que representa el pensamiento propio de un político. Si un chatbot lo está escribiendo y nadie lo revisa, es algo justo que los votantes noten. Nuestro artículo anterior sobre la nueva herramienta de detección de IA de Substack, publicado el 21 de julio, muestra la misma ansiedad jugándose en la publicación: los lectores están cada vez más preguntando quién realmente escribió lo que están leyendo.
¿Realmente importa esto?
En términos prácticos, un discurso desordenado no cambia nada. Los políticos siempre han utilizado redactores de discursos e investigadores. La IA es una versión más rápida de la misma ayuda.
Lo que cambió es la visibilidad del error. El desliz de un redactor fantasma humano se parece a un error tipográfico. El desliz de una IA deja una línea inconfundiblemente escrita para una audiencia de máquinas, no una sala llena de votantes. Los políticos que revisan permanecen invisibles. Solo escuchamos sobre los que no lo hacen.
El patrón más amplio merece atención: las herramientas de IA se están moviendo hacia roles públicos más rápido de lo que las personas que las usan han desarrollado hábitos para verificar el resultado. Esa brecha es donde viven las vergüenzas.
Consejo simple: Lee cada palabra antes de que cualquier cosa redactada por IA salga de tus manos. El modelo es útil. No es a prueba de vergüenzas.
