Detectores de IA estão a arruinar carreiras. E também estão frequentemente errados.
Estudantes foram suspensos, contratos de livros colapsaram e jornalistas sofreram assédio, tudo baseado em ferramentas de detecção de IA que os seus próprios criadores admitem não serem totalmente fiáveis.
Pontos-chave
- Um contrato de livro de 2 milhões de dólares foi cancelado em 2025 depois da editora Minotaur acusar o autor Jerry Falade de usar IA; ele nega.
- 43 por cento dos professores de sexto a décimo segundo ano nos EUA utilizaram regularmente detectores de IA entre 2024 e 2025, segundo o Center for Democracy and Technology.
- Um estudo de 2023 da Universidade de Stanford descobriu que detectores de IA assinalam falsamente ensaios de falantes de inglês não nativos como gerados por IA a taxas mais elevadas do que os de falantes nativos.
- Yale, MIT, Johns Hopkins, Vanderbilt e Georgetown desactivaram ou restringiram ferramentas de detecção de IA nos seus campus.
- OpenAI encerrou o seu próprio detector de escrita com IA em 2023 porque não era suficientemente preciso para usar.
Detectores de escrita com IA, ferramentas de software que afirmam dizer-lhe se um texto foi escrito por um humano ou uma máquina, existem desde que o ChatGPT foi lançado no final de 2022. Prometeram algo que educadores e editores desesperadamente queriam: uma forma fiável de apanhar trabalho gerado por IA. O que entregaram é algo mais complexo.
As ferramentas funcionam alimentando texto nos seus próprios modelos de IA, que procuram padrões considerados comuns na escrita de máquinas: fraseologia repetitiva, tom excessivamente formal, frases que seguem a mesma estrutura, e o que algumas ferramentas chamam baixa "imprevisibilidade", significando que o texto segue demasiado de perto as opções de palavras óbvias. É uma abordagem genuinamente diferente dos verificadores de plágio antigos, que simplesmente comparavam o seu ensaio com uma base de dados de texto conhecido para encontrar frases correspondentes.
A diferença importa. Combinar texto copiado é concreto. Julgar se a escrita "soa" demasiado como de máquina é muito mais subjectivo.
Estas ferramentas funcionam realmente?
Não com fiabilidade suficiente para arruinar a vida de alguém por causa disso. Turnitin, um dos serviços mais amplamente utilizados, diz que a sua ferramenta produz falsos positivos (assinalar incorrectamente escrita humana como IA) menos de uma por cento das vezes. Pangram afirma um falso sinal em cada 10.000 análises. Mas até essas empresas alertam os utilizadores para não agir apenas com base nos resultados.
Turnitin diz que o seu detector "pode não ser sempre preciso" e não deve ser utilizado para tomar medidas contra um estudante. Grammarly diz aos utilizadores para "nunca confiar apenas nos resultados de um detector de IA". GPTZero diz "nenhum detector de IA pode nunca ser verdadeiramente 100 por cento perfeito". OpenAI, a empresa por trás do ChatGPT, encerrou a sua própria ferramenta de detecção em 2023 depois de concluir que a precisão era demasiado baixa para ser útil.
O estudo de Stanford de 2023 colocou um ponto mais afiado sobre quem fica mais ferido. Os investigadores descobriram que as ferramentas assinalam ensaios escritos por falantes de inglês não nativos como IA a taxas mais elevadas do que ensaios por falantes nativos. A escrita que é formal, cautelosa ou estruturalmente consistente pode activar os detectores, e esses são padrões comuns para alguém que escreve na sua segunda língua.
O que correu mal na prática?
As consequências foram graves. Um estudante da Universidade de Adelphi ganhou um processo judicial no início de 2025 depois do seu professor o acusar de usar IA para escrever um ensaio, uma conclusão que parece ter-se baseado em Turnitin. Um estudante francês processou Yale depois de receber uma nota de reprovação e uma suspensão de um ano baseada numa análise de GPTZero. A sua ação judicial argumenta que "as ferramentas de vigilância e detecção de IA são conhecidas por visar injustamente falantes de inglês não nativos".
Para lá das escolas, Minotaur cancelou o contrato de livro de 2 milhões de dólares de Jerry Falade por preocupações com IA que ele contesta. A jornalista Kat Tenbarge, colaboradora da The Verge, foi acusada publicamente por Jack Osbourne de usar IA num artigo da Rolling Stone. A sua prova era um resultado de uma ferramenta chamada Getsolved. Ela negou. A acusação e o assédio acompanhante permanecem online.
| Ferramenta | Taxa de falsos positivos alegada | Estado |
|---|---|---|
| Turnitin | Menos de 1% | Activa, avisa contra uso exclusivo |
| Pangram | 1 em 10.000 | Activa, integrada no Substack |
| GPTZero | "Similarmente baixa" | Activa |
| Detector OpenAI | Não divulgada | Encerrada 2023 |
O que devem fazer os estudantes e escritores?
Várias universidades importantes traçaram uma linha clara. MIT avisa categoricamente que "detectores de IA não funcionam". Yale, Johns Hopkins, Vanderbilt e Georgetown desactivaram ou limitaram a sua utilização. Em vez disso, escolas como Stanford e a Universidade de Chicago estão a pedir aos professores para redesenharem tarefas: escrita em sala de aula, rascunhos faseados e conversas honestas sobre quando a assistência de IA é aceitável.
Para escritores fora do mundo académico, a Authors Guild agora oferece uma certificação "Autor Humano". Crachás independentes de Not by AI e Written by Human existem para quem quer assinalar o seu trabalho publicamente. Esses são voluntários, não verificáveis e um tanto quanto irónico, mas reflectem como o momento se tornou ansioso.
Se receber uma acusação de IA baseada num resultado do detector, a coisa-chave a saber é isto: as próprias ferramentas dizem que não são prova. Pergunte qual ferramenta foi utilizada, peça as passagens específicas assinaladas e aponte o acusador para as isenções de responsabilidade que a empresa publica no seu próprio website.
Perguntas comuns
Um detector de IA pode meter-me em sarilhos mesmo que eu tenha escrito tudo por mim?
Sim. Cada detector importante admite falsos positivos, e um estudo de 2023 de Stanford descobriu que falantes de inglês não nativos enfrentam taxas mais elevadas de sinais falsos. Um resultado do detector não é prova de má conduta por si só.
As escolas têm permissão para punir estudantes com base apenas na detecção de IA?
Turnitin explicitamente diz que a sua ferramenta não deve ser utilizada como a única base para acção contra um estudante. Várias universidades baniram a utilização destas ferramentas completamente, e pelo menos dois processos judiciais nos EUA foram contra escolas que se basearam nelas.
