A IA é um Produto Humano, Não uma Força Mágica. Um Novo Livro Quer que Você Saiba a Diferença.

Pontos-chave

• O livro de Eleanor Drage argumenta que a IA é construída sobre trabalho humano, desde a extração de matérias-primas até à marcação de dados de treino, e não em nenhuma inteligência misteriosa.
• Drage afirma que as grandes empresas de tecnologia não podem cumprir as suas promessas utópicas enquanto priorizam o lucro em relação ao interesse público.
• A obsessão cultural com a extinção causada pela IA, segundo ela, distrai de soluções práticas que poderiam tornar a IA mais segura agora mesmo.
• Desmistificar a linguagem de marketing, como "a nuvem" e "alucinação", é uma forma concreta de os cidadãos se oporem às narrativas das empresas de tecnologia.

A expressão "inteligência artificial" carrega um grande peso. Evoca imagens de algo vasto e desconhecido, quase sobrenatural. Eleanor Drage, eticista em IA da Universidade de Cambridge, quer dissolver essa impressão completamente.

O seu novo livro, analisado pelo The Guardian, argumenta que a IA não é uma força mística. É o produto de trabalhadores em minas de silício e quartzo, fábricas de microchips e centros de marcação de dados, onde pessoas são pagas para etiquetar imagens e texto para que sistemas de aprendizagem automática, o software que aprende padrões a partir de enormes conjuntos de dados, possam ser treinados. Compreender essa cadeia humana, diz Drage, é como os cidadãos começam a recuperar poder das empresas que constroem estes sistemas.

O que significa realmente o jargão?

O movimento mais direto e útil de Drage é atacar a linguagem em si. "A nuvem" parece um fenómeno natural. É apenas o computador de outra pessoa. Uma "alucinação" de IA, o termo usado quando um chatbot afirma com confiança algo falso, é realmente um erro do sistema ou um erro na marcação de dados. Chamar-lhe uma alucinação implica que a máquina tem uma mente que ocasionalmente divaga. Não tem.

"Inteligência" é o maior truque de ilusionismo. A palavra é ampla, carregada e, segundo Drage, potencialmente enganosa quando aplicada a software que prevê a próxima palavra numa frase.

Deveriam as pessoas preocupar-se com a IA a eliminar a humanidade?

Drage é cética de que uma abordagem apocalíptica ajude as pessoas comuns. A história dominante do Silicon Valley, que a IA entregará uma idade de ouro ou destruirá a civilização, é convincente mas conveniente. Desvia a atenção de questões práticas: Quem controla os dados que alimentam estes sistemas? Como deve ser regulada a IA? Que direitos têm os trabalhadores e utilizadores?

O discurso apocalíptico também cria uma falsa hierarquia de problemas. A mudança climática, a instabilidade geopolítica e a desigualdade económica já causam enormes danos a pessoas reais hoje. Drage aponta que resolver esses problemas reduziria também muitos riscos relacionados com a IA.

O argumento mais afiado do livro é simples. A grande tecnologia não pode honestamente prometer utopia enquanto persegue lucro e serve um grupo restrito de acionistas. Os dois objetivos estão em tensão direta.

O que pode realmente fazer uma pessoa comum?

O conselho prático de Drage centra-se no ceticismo informado. Questione os termos de marketing. Pergunte quem beneficia quando uma empresa descreve o seu produto como "inteligente" ou os seus erros como "alucinações". Exija regras mais claras sobre como os dados pessoais são coletados e utilizados para treinar modelos de IA.

Nada disto requer um diploma em ciência da computação. Requer as mesmas competências críticas de leitura que as pessoas aplicam a qualquer outra indústria que faz grandes promessas.

Perguntas comuns

O que é um centro de marcação de dados?

É um local de trabalho onde as pessoas são pagas para rever e etiquetar conteúdo, como marcar quais as imagens que contêm um gato ou sinalizar texto prejudicial, para que os sistemas de IA tenham informações limpas e organizadas para aprender.

Por que importa a linguagem que as empresas de tecnologia usam?

Palavras como "alucinação" ou "inteligência" moldam a forma como o público pensa sobre responsabilidade. Se um chatbot "alucina", parece um erro para além do controlo de qualquer pessoa. Se comete um erro de marcação, alguém é responsável por corrigi-lo.