A IA Poderia Curar o Cancro ou Consolidar a Autocracia. O Caminho Que Toma Depende de Nós

Pontos-chave

• Katherine Rundell, autora e académica de Oxford, avisa que a IA já está a transferir riqueza e poder para um pequeno número de indivíduos.
• Ela argumenta que a IA pode ser utilizada para disseminar desinformação, permitir vigilância em massa e operar armas que matam sem pilotos ou soldados humanos.
• Também lista benefícios genuínos: pesquisa de cancro mais rápida, melhores avisos de desastres, acesso mais amplo a ajuda jurídica.
• O seu argumento central, publicado no The Guardian, é que quem controla a IA importa mais do que aquilo que a IA consegue fazer.

Dois futuros vivem dentro da mesma tecnologia. Este é o argumento desconfortável que Katherine Rundell, autora e académica, coloca aos leitores esta semana, e é difícil rejeitá-lo.

Por um lado: uma ferramenta que poderia, nas suas palavras, acelerar a cura do cancro, ajudar pessoas com deficiência a viverem de forma mais independente, e dar aos cidadãos comuns o tipo de conhecimento jurídico que actualmente custa centenas de libras por hora. Os sistemas de alerta precoce para inundações e incêndios florestais poderiam tornar-se mais precisos. Os cientistas poderiam encontrar padrões nos ecossistemas terrestres que nenhuma equipa humana conseguiria identificar sozinha.

Do outro lado há algo mais sombrio.

Afinal, do que é que Rundell está a avisar?

A sua preocupação mais aguda é a concentração de poder. A IA, escreve ela, já está a permitir uma "mudança vertiginosa" de riqueza dos muitos para um minúsculo grupo de homens cuja atitude perante a vida humana a preocupa. Ela não os identifica, mas o ponto fica claro.

Além da riqueza, ela aponta três perigos específicos. Primeiro, desinformação em escala que nenhuma tecnologia anterior conseguiria igualar: a IA pode gerar texto, imagens e vídeos falsos sem necessidade de exércitos de trabalhadores humanos. Segundo, vigilância em massa, a capacidade de governos ou corporações observarem e registarem cidadãos tão completamente que a dissidência se torna perigosa. Terceiro, armas autónomas letais, sistemas militares que seleccionam e matam alvos sem uma pessoa humana tomar a decisão final.

Consideradas em conjunto, argumenta ela, estas capacidades descrevem algo próximo de um kit pronto para a implementação de um regime autoritário.

Isto significa que a IA é má?

Rundell diz que não, mas estabelece uma condição rigorosa. Os benefícios apenas se concretizam se as pessoas que controlam a tecnologia tiverem algo como bons valores. Se a IA terminar concentrada nas mãos de "criminosos e déspotas", os avanços médicos tornam-se irrelevantes.

Este não é um argumento técnico. É um argumento político.

O seu foco é a educação: as salas de aula são o local onde a próxima geração de eleitores, engenheiros e decisores políticos forma as suas pressuposições sobre para que serve a tecnologia. Ela está preocupada com o facto de essas mentes estarem a ser moldadas por ferramentas construídas para o envolvimento e eficiência, em vez de curiosidade e pensamento crítico.

O que isto significa para as pessoas comuns?

A implicação prática é menos sobre qual aplicação usar e mais sobre em quem votar e que perguntas fazer às empresas que constroem estes sistemas. O artigo de Rundell é um apelo, não um manual.

Para pais e professores, a questão mais imediata que ela levanta é se a versão de IA que os alunos encontram na escola constrói o seu pensamento ou o substitui silenciosamente. Este debate está a acontecer neste momento em salas de professores e documentos políticos, e não vai esperar.

Perguntas frequentes

A IA está realmente a ser utilizada para vigilância?

Sim. Governos em vários países já utilizam reconhecimento facial alimentado por IA e análise de dados para monitorizar cidadãos. A tecnologia não é hipotética.

A IA consegue realmente ajudar a encontrar uma cura para o cancro?

As ferramentas de IA já são utilizadas na pesquisa de cancro para analisar exames médicos e identificar candidatos a medicamentos mais rapidamente do que investigadores humanos sozinhos conseguem fazer. Os resultados até agora são promissores, mas as curas continuam a estar a anos de distância.

Devo estar preocupado com a IA e a educação do meu filho?

O debate está vivo e em aberto. A coisa mais útil que um pai pode fazer neste momento é perguntar à escola do seu filho qual é a sua política relativamente às ferramentas de IA e se o pensamento crítico continua a ser explicitamente ensinado.