Dois terços das pessoas pensam que o ChatGPT é consciente. Um filósofo diz que nos enganamos há décadas.

Pontos-chave

• Dois terços das pessoas inquiridas acreditam que ferramentas de IA como o ChatGPT, um chatbot baseado em texto criado pela OpenAI, possuem alguma forma de consciência ou sentimento.
• A estudiosa feminista americana Elizabeth Spelman cunhou o termo "somatofobia" num artigo de 1982 para descrever a crença de que os humanos são mentes em vez de corpos.
• A filósofa e autora Melanie Challenger argumenta, escrevendo no The Guardian, que a IA moderna é a versão mais poderosa dessa ilusão até agora.
• Nenhum sistema de IA atual foi demonstrado ter sentimentos ou consciência em qualquer sentido cientificamente verificado.

A maioria das pessoas, quando questionada se o seu portátil sente dor, diria que não. Faça a mesma pergunta sobre o ChatGPT, e de repente a resposta fica mais turva.

Um inquérito recente descobriu que dois terços dos inquiridos acreditam que ferramentas de IA como o ChatGPT têm alguma forma de consciência ou sentimento. A filósofa Melanie Challenger acha que sabe porquê.

Porque é que tanta gente pensa que a IA tem sentimentos?

Porque durante muito tempo confundimos inteligência com vida interior. Challenger rastreia a confusão até ao que a estudiosa Elizabeth Spelman chamou, num artigo académico de 1982, de "somatofobia": literalmente, medo do corpo. Spelman usou a palavra para descrever uma ilusão humana generalizada de que somos essencialmente mentes, e que o corpo é apenas um recipiente.

A filosofia ocidental, ao longo de séculos, tem tratado a mente pensante como a sede do eu verdadeiro e o corpo físico como secundário. Se o pensar é o que importa, então tudo o que parece pensar pode parecer vivo de uma forma significativa.

Os chatbots de IA produzem texto fluente e emocionalmente ressonante que parece pensamento. Não é, não da forma como um cérebro humano pensa. Um modelo de linguagem de grande escala, a tecnologia por trás de ferramentas como o ChatGPT e o Gemini do Google, funciona prevendo qual a palavra que mais provavelmente segue a anterior, baseando-se em padrões de vastíssimas quantidades de escrita humana. Não há corpo. Sem fome, sem batida cardíaca.

Isto importa realmente para as pessoas comuns?

Sim, de formas práticas. Se acredita que um chatbot compreende genuinamente a sua situação, pode confiar mais nos seus conselhos do que deveria. Uma enfermeira que use uma ferramenta de IA para redigir notas de pacientes, ou um professor que recorra a um chatbot para feedback, está a obter um resultado estatisticamente plausível, não uma opinião considerada de algo que compreende o que está em jogo. Analisámos esta dinâmica na nossa história de 24 de julho sobre o teste simples de um professor de Harvard para decidir quando a IA é realmente útil.

O argumento de Challenger, relatado pelo The Guardian, não é que a IA é inútil. É que confundir uma máquina de texto sofisticada com um ser consciente distorce como a utilizamos e como a regulamos. Quando as pessoas sentem que uma IA é senciente, podem conceder-lhe um estatuto moral que não conquistou, ou sentir-se traídas quando falha num momento humano.

Nenhum consenso científico suporta a ideia de que qualquer sistema de IA atual seja consciente. A questão mantém-se em aberto para sistemas futuros construídos com princípios diferentes, mas os chatbots de hoje não são esses sistemas.

Que devem os leitores retirar disto?

O ceticismo é a ferramenta prática aqui. Um chatbot pode ser útil sem estar vivo. Tratá-lo como uma função de autocompletar bem-lida, em vez de uma mente empática, é tanto mais preciso como mais seguro.

O resultado do inquérito é um lembrete de que o design destas ferramentas, suave, quente, conversacional, molda a percepção de forma poderosa. Vale a pena ter em mente sempre que um chatbot parece realmente compreender-o.

Perguntas comuns

O ChatGPT é realmente consciente?

Nenhuma prova científica suporta essa afirmação. O ChatGPT é um modelo de linguagem de grande escala que gera texto prevendo sequências de palavras prováveis; não tem corpo, nenhum processo biológico, e nenhuma experiência interior verificada.

O que é somatofobia neste contexto?

É um termo cunhado pela estudiosa Elizabeth Spelman em 1982 para a crença errada de que os humanos são essencialmente mentes em vez de corpos físicos, um viés que nos torna mais propensos a ver máquinas pensantes como vivas.

Devo parar de usar chatbots de IA?

Não necessariamente. O conselho prático é utilizá-los como ferramentas em vez de como conselheiros com compreensão genuína, e verificar qualquer coisa importante com um humano qualificado.