Substack Agora Permite Leitores Verificarem Textos Gerados por IA

Pontos principais

• Substack começou a disponibilizar uma ferramenta de detecção de texto com IA na sua plataforma web e aplicação iOS na terça-feira.
• A ferramenta é alimentada pela Pangram, uma empresa de detecção de IA, e funciona em qualquer conteúdo com mais de 100 palavras.
• Os escritores também podem verificar os seus próprios rascunhos com a Pangram antes de publicar e contestar resultados que considerem incorretos.
• O CEO do Substack, Chris Best, cunhou o termo "Claudefishing" para descrever conteúdo que engana os leitores fazendo-os acreditar que um humano o escreveu.

O Substack quer que os seus leitores saibam se um verdadeiro ser humano escreveu o que estão a ler, ou se uma máquina fez a maior parte do trabalho.

A plataforma de newsletter e redes sociais começou a disponibilizar uma ferramenta de detecção de IA integrada, alimentada por uma empresa chamada Pangram, que se especializa em identificar escritas geradas por IA. Os leitores podem ativar uma verificação em qualquer publicação, nota, resposta ou comentário com mais de 100 palavras. Basta tocar no menu de três pontos no canto superior direito de uma publicação e escolher "Verificar texto com IA". A ferramenta devolve uma estimativa de quanto da escrita pode ter vindo de uma IA, ou ter sido muito assistida por uma.

A funcionalidade está disponível na web e na aplicação Substack iOS neste momento. O suporte para Android chegará em breve, segundo foi reportado primeiro por The Verge AI.

Chris Best, cofundador e CEO do Substack, enquadrou o movimento como um problema de confiança, não uma proibição tecnológica. "O problema fundamental não é as pessoas usarem IA, ou a qualidade do seu resultado", escreveu Best numa publicação no blogue. "O problema é quando há uma discrepância entre a expectativa do leitor e a realidade."

Best deu um nome a essa discrepância: Claudefishing. É um jogo de palavras com catfishing, onde alguém finge online ser quem não é, exceto que aqui um escritor finge que o pensamento humano entrou num texto que um modelo de linguagem grande, a tecnologia por trás de chatbots como o ChatGPT, realmente produziu.

A ferramenta tem limitações reais. Best é transparente sobre elas. A Pangram pode dizer-lhe se a IA moldou as palavras na página. Não pode dizer-lhe se o escritor passou horas a dirigir, editar e verificar cuidadosamente esse resultado de IA. Uma peça cuidadosamente assistida e uma gerada preguiçosamente poderiam ter pontuações semelhantes.

Para colmatar essa lacuna, o Substack também está a adicionar uma declaração voluntária "Como faço isto", onde os escritores podem explicar o seu processo nas suas próprias palavras. Pense nisso como um rótulo nutricional para trabalho criativo.

Os leitores devem confiar nos resultados da verificação?

Trate-os como um sinal útil, não como um veredicto. A estimativa da Pangram é uma probabilidade, não uma prova. O próprio Best nota que pode produzir resultados imprecisos, o que é exatamente a razão pela qual os escritores têm a opção de assinalar e reportar uma pontuação que acreditam estar errada.

Para os leitores diários do Substack, a consequência prática é simples. Se está a pagar por uma newsletter ou está a dar atenção a um escritor, agora tem uma forma rápida de verificar se um ser humano realmente elaborou o que está a ler. Isso é mais do que a maioria das plataformas oferece.

Best colocou-o claramente: "Plataformas que recompensam a falsidade criarão uma corrida para o fundo."