Dois terços das pessoas acreditam que ChatGPT é consciente. Uma filósofa diz que nos estamos a enganar há décadas.

Pontos-chave

• Dois terços das pessoas inquiridas num estudo recente acreditam que ferramentas de IA como ChatGPT, um chatbot baseado em texto criado pela OpenAI, possuem alguma forma de consciência ou sentimento.
• A estudiosa feminista americana Elizabeth Spelman cunhou o termo "somatofobia" num artigo de 1982 para descrever a crença de que os humanos são mentes em vez de corpos.
• A filósofa e autora Melanie Challenger argumenta, escrevendo no The Guardian, que a IA moderna é a versão mais poderosa dessa ilusão até agora.
• Nenhum sistema de IA atual foi demonstrado ter sentimentos, consciência ou experiência vivida em qualquer sentido cientificamente verificado.

A maioria das pessoas, se perguntada se o seu computador sente dor, diria que não. Faça a mesma pergunta sobre ChatGPT, um chatbot de IA que mantém conversas longas e emocionalmente fluentes, e de repente a resposta torna-se mais confusa.

Um inquérito recente constatou que dois terços dos inquiridos acreditam que ferramentas de IA como ChatGPT possuem alguma forma de consciência ou sentimento. É um número impressionante, e a filósofa Melanie Challenger pensa que sabe porque é que continua a aumentar.

Porque é que tantas pessoas acreditam que a IA tem sentimentos?

Porque durante muito tempo confundimos inteligência com vida interior. Challenger traça a confusão até ao que a estudiosa Elizabeth Spelman, num artigo académico de 1982, chamou "somatofobia": literalmente, medo do corpo. Spelman utilizou a palavra para descrever uma ilusão humana generalizada de que somos essencialmente mentes, e que o corpo é apenas um recipiente.

Essa ideia tem raízes profundas. A filosofia ocidental, ao longo de séculos, tem tendido a tratar a mente pensante como o centro do verdadeiro eu, e o corpo físico como secundário. Se pensar é o que importa, então tudo o que parece pensar pode parecer vivo de uma forma significativa.

Os chatbots de IA, que produzem texto fluente e emocionalmente ressonante, parecem muito estar a pensar. Não estão, pelo menos não da forma como um cérebro humano pensa. Um modelo de linguagem grande, a tecnologia por trás de ferramentas como ChatGPT e Gemini do Google, funciona prevendo qual a palavra que mais plausielemnte segue a anterior, baseando-se em padrões aprendidos de vastas quantidades de escrita humana. Não há corpo. Sem fome, sem batida cardíaca, sem interesse no resultado.

Será que isto realmente importa para pessoas comuns?

Sim, de formas práticas. Se acreditar que um chatbot compreende genuinamente ou se importa com a sua situação, pode confiar mais no seu conselho do que deveria. Uma enfermeira a usar uma ferramenta de IA para ajudar a redigir notas do paciente, ou um professor a apoiar-se num chatbot para feedback, está a receber um resultado estatisticamente plausível, não uma opinião ponderada de algo que compreende o que está em jogo.

O argumento de Challenger, reportado pelo The Guardian, não é que a IA é inútil. É que confundir uma máquina de texto muito sofisticada com um ser consciente distorce a forma como a usamos e como a regulamos. Quando as pessoas sentem que uma IA é senciente, podem conferir-lhe um estatuto moral que não ganhou, ou, inversamente, sentir-se traídas quando ela as falha num momento muito humano.

Nenhum consenso científico apoia a ideia de que qualquer sistema de IA atual é consciente. A questão permanece genuinamente aberta para futuros sistemas muito diferentes, mas os chatbots de hoje não são esses sistemas.

O que os leitores devem tirar disto?

O ceticismo é a ferramenta prática aqui. Um chatbot pode ser útil sem estar vivo. Tratá-lo como uma função de conclusão automática inteligente e bem lida, em vez de uma mente empática, é tanto mais preciso como mais seguro.

O resultado do inquérito é um lembrete de que o design dessas ferramentas, suave, caloroso, conversacional, molda a perceção de forma poderosa. Vale a pena ter isto em mente sempre que um chatbot parece compreendê-lo realmente.

Perguntas comuns

ChatGPT é realmente consciente?

Nenhuma evidência científica apoia essa afirmação. ChatGPT é um modelo de linguagem grande que gera texto prevendo sequências de palavras prováveis; não tem corpo, não tem processos biológicos e nenhuma experiência interior verificada.

O que é somatofobia neste contexto?

É um termo cunhado pela estudiosa Elizabeth Spelman em 1982 para a crença errada de que os humanos são essencialmente mentes em vez de corpos físicos, um enviesamento que nos torna mais propensos a ver máquinas pensantes como vivas.

Devo parar de usar chatbots de IA?

Não necessariamente. O conselho prático é usá-los como ferramentas em vez de como conselheiros com compreensão genuína, e verificar qualquer coisa importante com um profissional qualificado.