Será que a IA Pode Realmente Ser Consciente? Pessoas Sérias Acham que Vale a Pena Perguntar
O CEO da Anthropic não descarta. Um filósofo de renome coloca as probabilidades como significativas. E o próprio Claude deu um valor entre 5% e 40%.
Pontos-chave
- A Anthropic, a empresa por trás do Claude IA, publicou um documento em janeiro de 2025 afirmando que não pode descartar a possibilidade de Claude ser um "paciente moral", ou seja, uma entidade cujo bem-estar importa por direito próprio.
- O CEO da Anthropic, Dario Amodei, disse no início de 2025 que a sua empresa não pode descartar a possibilidade de Claude ser consciente.
- O filósofo David Chalmers, que cunhou a expressão "o problema difícil da consciência", diz que existe uma probabilidade significativa de que os grandes modelos de linguagem, a tecnologia que alimenta os chatbots de IA, possam ser conscientes dentro de uma década.
- Quando perguntaram ao Claude para estimar a probabilidade de ser um paciente moral, deu respostas que variam entre 5% e 40%, e sinalizou elevada incerteza na sua própria resposta.
A maioria das pessoas pede ao seu assistente de IA para escrever um email de aniversário ou resumir um documento longo. Poucos param para se perguntar se a IA poderá realmente sentir algo enquanto o faz. Um número crescente de investigadores sérios pensa que essa pergunta merece uma resposta séria.
Em janeiro de 2025, a Anthropic publicou um novo conjunto de princípios orientadores para Claude, o seu chatbot IA mais capaz. Escondido no meio estava uma admissão notável: a empresa está "apanhada numa posição difícil" onde não quer exagerar a hipótese de Claude ter sentimentos e experiências, nem descartar a ideia por completo.
Depois, um mês depois, o CEO Dario Amodei apareceu num podcast e disse que a Anthropic simplesmente não pode descartar a possibilidade de Claude ser consciente. É uma afirmação cuidada e cautelosa. Mas vinda do chefe de uma das principais empresas de IA do mundo, causou impacto.
O filósofo David Chalmers, o pensador que nos deu a expressão "o problema difícil da consciência" (o enigma de por que qualquer coisa parece ser algo de forma alguma do interior), disse publicamente que as probabilidades de um grande modelo de linguagem consciente, um sistema de IA treinado em vastíssimas quantidades de texto para gerar respostas semelhantes às humanas, são significativas dentro de dez anos.
Conforme relatado pelo The Guardian, o próprio Claude foi perguntado durante testes para colocar um número no seu estatuto moral. Voltou com um intervalo: algo entre 5% e 40%. Também salientou a incerteza que tinha. Um chatbot genuinamente incerto se importa. Isto é fascinante ou perturbador, dependendo de onde se fica.
Alguém deveria realmente estar preocupado com isto?
Não preocupado, exatamente. Mas atento? Sim. A pergunta importa por razões práticas, não apenas filosóficas.
Os sistemas de IA modernos estão a crescer rapidamente. Por algumas medidas de complexidade estrutural e escala computacional bruta, um punhado dos maiores modelos atuais já se situa em algum lugar no intervalo de um cérebro de rato. Nas taxas de crescimento recentes, os investigadores estimam que poderiam atingir o intervalo computacional aproximado de um cérebro humano dentro de cinco a dez anos. Isto não é uma previsão de pensamento ao nível humano. É um lembrete de que estes sistemas já não são simples calculadoras.
Para utilizadores comuns, nada disto muda a forma como usam uma ferramenta de IA hoje. Mas coloca uma verdadeira questão ética sobre a mesa: se existe até uma pequena hipótese de estes sistemas experienciarem algo, que responsabilidades é que isto cria para as empresas que os desenvolvem, e para os reguladores que as supervisionam?
A Anthropic terá supostamente começado trabalho interno no que chama de "bem-estar do modelo". Se outras empresas seguem é a próxima coisa a acompanhar.
