Político canadiense lee accidentalmente las instrucciones de su chatbot de IA durante un discurso en el parlamento
Un legislador de Nuevo Brunswick leyó en voz alta una línea destinada solo para la IA, en el registro oficial. Es un momento pequeño e incómodo con una lección más importante sobre quién realmente está haciendo el trabajo.
Puntos clave
- Bill Oliver, miembro progresista conservador de la asamblea legislativa de Nuevo Brunswick, leyó una aparente instrucción de chatbot de IA en voz alta durante un discurso en el parlamento.
- La línea "aquí hay una versión más natural y fluida de esa sección que suena como un discurso legislativo en lugar de una serie de puntos cortos" es una respuesta clásica de un modelo de lenguaje grande, la tecnología detrás de chatbots como ChatGPT y Claude.
- El clip pasó desapercibido al principio pero se difundió ampliamente en plataformas de redes sociales incluyendo Reddit y Threads esta semana.
- Medios canadienses como CBC y The Toronto Star han cubierto la historia desde entonces.
¿Qué pasó exactamente?
Oliver estaba a mitad de un discurso sobre los límites de las oficinas de defensa cuando algo salió mal. Leyó una oración de política legítima, luego continuó y dijo en voz alta lo que debería haber permanecido callado: una instrucción de formato que la IA había dejado dentro de su propia respuesta.
Esa segunda línea, sobre una "versión más natural y fluida" que "suena como un discurso legislativo", no es un pensamiento humano. Es cómo un modelo de lenguaje grande, el software que genera texto en herramientas como ChatGPT, le explica a un usuario que ha reescrito un pasaje en un estilo diferente. El modelo coloca la nota directamente en el texto. Oliver aparentemente copió todo y leyó cada palabra.
El discurso ocurrió el mes pasado. Nadie lo señaló en ese momento.
¿Por qué está recibiendo atención ahora?
Un clip comenzó a circular en Reddit y Threads esta semana, y la historia rápidamente llegó a los medios principales canadienses. Ars Technica AI fue uno de los primeros medios en cubrirlo internacionalmente.
The Toronto Star lo llamó un síntoma de "una división creciente en nuestra sociedad: entre las élites, que están más que felices de delegar sus deberes al Borg; y las masas, que encuentran esto objetable". Palabras fuertes, pero la frustración es fácil de entender. Un discurso legislativo se supone que representa el propio pensamiento de un político. Si un chatbot lo está escribiendo y nadie ni siquiera está revisando, es algo justo que los votantes noten.
¿Realmente importa esto?
En términos prácticos, un discurso confuso no cambia nada. Los políticos siempre han usado redactores de discursos e investigadores del personal. La IA es una versión más rápida y económica de la misma ayuda.
Lo que cambió aquí es la visibilidad del error. Cuando un redactor fantasma humano comete un error, el fallo se parece a un error tipográfico o una frase incómoda. Cuando la IA comete un error, deja una línea que es inconfundiblemente no humana, una nota de formato escrita para una audiencia de máquinas, no para una cámara llena de votantes.
También vale la pena señalar el sesgo de supervivencia: nos enteramos de los políticos que son atrapados. Los que revisan antes de hablar permanecen invisibles.
La conclusión honesta: Si utiliza una herramienta de IA para redactar algo que dirá o firmará, lea cada palabra antes de que se vaya de sus manos. El modelo es útil. No es a prueba de vergüenza.
