Político canadiano lê acidentalmente as instruções do seu chatbot de IA durante discurso parlamentar
Um legislador de New Brunswick disse uma frase destinada apenas à IA em voz alta, registada oficialmente. É um pequeno momento constrangedor com uma lição maior sobre quem está realmente a fazer o trabalho.
Pontos principais
- Bill Oliver, membro Progressista Conservador da assembleia legislativa de New Brunswick, leu uma aparente instrução de chatbot de IA em voz alta durante um discurso parlamentar.
- A frase, "here's a more natural, flowing version of that section that reads like a legislative speech rather than a series of short points," é uma resposta clássica de um modelo de linguagem de grande escala, a tecnologia por trás de chatbots como ChatGPT e Claude.
- O vídeo passou despercebido inicialmente, mas disseminou-se amplamente em plataformas de redes sociais incluindo Reddit e Threads esta semana.
- Meios canadianos como a CBC e The Toronto Star retomaram a história entretanto.
O que realmente aconteceu?
Oliver estava a meio de um discurso sobre os limites dos gabinetes de advocacia quando algo correu mal. Leu uma frase legítima de política, depois continuou e disse a parte silenciosa em voz alta: uma instrução de formatação que a IA havia deixado dentro da sua própria resposta.
Essa segunda frase, sobre uma "versão natural e fluida" que "se lê como um discurso legislativo," não é um pensamento humano. É a forma como um modelo de linguagem de grande escala, o software que gera texto em ferramentas como ChatGPT, explica a um utilizador que reescreveu uma passagem num estilo diferente. O modelo coloca a nota bem ali no texto. Oliver aparentemente copiou tudo e leu cada palavra.
O discurso aconteceu no mês passado. Ninguém o sinalizou na altura.
Por que está a receber atenção agora?
Um vídeo começou a circular no Reddit e Threads esta semana, e a história rapidamente chegou aos meios de comunicação principais canadianos. Ars Technica AI foi um dos primeiros órgãos a cobrir internacionalmente.
The Toronto Star chamou-lhe um sintoma de "uma divisão crescente na nossa sociedade: entre as elites, que estão demasiado felizes em delegar os seus deveres ao Borg; e as massas, que acham isto objectionável." Palavras fortes, mas a frustração é fácil de compreender. Um discurso legislativo deve representar o próprio pensamento de um político. Se um chatbot o escreve e ninguém sequer faz revisão, é algo justo para os eleitores notarem.
Isto realmente importa?
Em termos práticos, um discurso mal executado não muda nada. Os políticos sempre utilizaram escritores de discursos e investigadores de pessoal. A IA é uma versão mais rápida e mais barata da mesma ajuda.
O que mudou aqui é a visibilidade do erro. Quando um ghostwriter humano comete um deslize, o erro parece um erro tipográfico ou uma frase desajeitada. Quando uma IA comete um deslize, deixa uma linha que é inquestionavelmente não humana, uma nota de formatação escrita para um público máquina, não uma câmara cheia de eleitores.
O viés de sobrevivência também vale a pena notar aqui: ouvimos falar dos políticos que são apanhados. Os que fazem revisão antes de falarem mantêm-se invisíveis.
A conclusão honesta: Se utilizar uma ferramenta de IA para rascunhar qualquer coisa que irá dizer ou assinar, leia cada palavra antes de sair das suas mãos. O modelo é útil. Não é à prova de constrangimentos.
