Mais de 1.300 investigadores em IA dizem que a corrida da indústria para construir sistemas mais poderosos está a colocar a humanidade em risco

Pontos principais

• Uma carta assinada por 1.367 investigadores e engenheiros em IA, maioritariamente da OpenAI, Anthropic e Google DeepMind, adverte que o ritmo atual de desenvolvimento de IA apresenta riscos graves para a humanidade.
• Os signatários trabalham em IA de fronteira, ou seja, os sistemas de IA mais poderosos e avançados que estão a ser construídos atualmente, tornando este um dos avisos mais diretos vindos de dentro da indústria até ao momento.
• A carta contradiz a afirmação comum de que apenas críticos externos se preocupam com a possibilidade de catástrofe por IA.
• Nenhuma exigência específica ou proposta de política foi anexada à carta, mas a sua existência sinala um desconforto crescente dentro dos próprios laboratórios.

Durante anos, uma ideia reconfortante tem circulado nos círculos tecnológicos: as pessoas que realmente constroem IA não têm medo, portanto, você também não deveria ter. Segundo este argumento, qualquer pessoa que levante alertas ou é ingénua ou não compreende a tecnologia.

Uma carta aberta recém-publicada faz um grande estrago neste argumento.

Quem a assinou e por que é que isso importa?

A carta contém 1.367 assinaturas de investigadores e engenheiros que trabalham em laboratórios de IA de fronteira, o reduzido número de organizações em competição pela construção dos sistemas de IA mais poderosos do mundo. A maioria dos signatários vêm de três nomes que reconhecerá: OpenAI, Anthropic e Google DeepMind.

Estes não são críticos externos. Eles escrevem o código, treinam os modelos e executam as experiências. As suas vidas profissionais passam por tornar a IA mais capaz. E estão preocupados.

A Guardian foi a primeira a reportar sobre a carta e as suas implicações num artigo do investigador de IA Stuart Russell.

Com o quê é que estão realmente preocupados?

A carta aponta para o risco catastrófico, a possibilidade de que sistemas avançados de IA possam causar danos em larga escala e difíceis de reverter. Os signatários descrevem o momento atual como perigoso.

Este é um desafio direto a um padrão que se tornou comum no debate público. Os críticos das preocupações com a segurança de IA são frequentemente demitidos como "apocalípticos" ou "luditas" que defendem uma visão "marginal" enraizada na ficção científica. Os autores da carta estão a dizer, claramente: essa caracterização está errada.

O facto de tantos especialistas internos estarem dispostos a colocar os seus nomes num comunicado público é em si significativo. Investigadores em grandes laboratórios de IA raramente falam abertamente de formas que possam constranger os seus empregadores.

O que é que isto significa para as pessoas comuns?

Significa que a conversa sobre riscos de IA não é marginal. Quando mais de mil pessoas que constroem a tecnologia dizem que estão preocupadas, isso merece ser levado em conta.

Não significa que a IA causará definitivamente uma catástrofe. Significa que as pessoas com a melhor perspetiva do que está a acontecer dentro destes sistemas pensam que os riscos são reais e sérios o suficiente para o dizerem publicamente.

Nenhuma ação específica é exigida do público neste momento. Mas se lhe disseram para não se preocupar porque "os especialistas" não estão preocupados, esta carta é prova de que essa imagem nunca foi exata.

O que acontece agora?

A carta não inclui uma lista de exigências ou uma proposta de correção política, o que limita o seu impacto imediato. Funciona mais como um sinal, uma fissura na fachada pública de confiança que os grandes laboratórios geralmente apresentam.

A pressão por supervisão governamental do desenvolvimento de IA tem vindo a aumentar nos Estados Unidos, no Reino Unido e na União Europeia. Cartas como esta tendem a adicionar peso a esses apelos, mesmo sem especificar exatamente o que os reguladores devem fazer.