O Filósofo Dentro da Google DeepMind Que Pergunta: O Que É a IA, Realmente?

Pontos principais

• Iason Gabriel juntou-se à Google em 2017, tornando-o um dos ética da IA com mais tempo de serviço em qualquer grande empresa de tecnologia.
• Gabriel trabalha na Google DeepMind, a divisão de investigação que constrói alguns dos sistemas de IA mais avançados do mundo.
• A pressão comercial e a corrida entre os EUA e a China pela supremacia da IA estão a tornar a revisão ética mais difícil, não mais fácil.
• A questão central a que o seu trabalho continua a regressar: ninguém compreende totalmente o que é um modelo de linguagem de grande dimensão, a tecnologia por trás de chatbots como o ChatGPT e o Gemini.

Iason Gabriel é filósofo. Trabalha dentro um dos laboratórios de IA mais poderosos da terra, e o seu trabalho, em termos gerais, é fazer perguntas incómodas antes de um produto ser lançado em vez de depois.

Juntou-se à Google em 2017, quando a frase "ética da IA" ainda soava académica. Sete anos depois, os riscos parecem muito diferentes.

Gabriel situa-se na Google DeepMind, a divisão de investigação baseada em Londres que a Google formou em 2023 pela fusão dos seus dois principais braços de investigação de IA. A DeepMind construiu o AlphaFold, o sistema que desvendou a estrutura de quase todas as proteínas conhecidas. Também trabalha no Gemini, a família de modelos de linguagem de grande dimensão da Google, o mesmo tipo de IA que alimenta os chatbots conversacionais.

O que é que um ética da IA muda realmente?

Honestamente, isso é contestado. O trabalho de Gabriel envolve antecipar danos antes de acontecerem: pensar sobre como um sistema pode ser usado indevidamente, quem pode prejudicar, que valores deve refletir. Mas antecipar danos e preveni-los são duas coisas diferentes.

A pressão é real. Os governos dos EUA e da China estão a tratar a IA como um ativo estratégico, investindo biliões no desenvolvimento e a pressionar para a velocidade. As empresas enfrentam expectativas de investidores e ameaças competitivas de rivais que lançam novos modelos a cada poucos meses. Nesse ambiente, um filósofo que diz "espera, vamos pensar nisto" está a nadar contra uma corrente muito forte.

Gabriel disse ao The Guardian que uma pergunta continua a surgir independentemente do quanto a tecnologia avança. "Há este mistério profundo do que, realmente, é isto?" Ninguém, incluindo os engenheiros que constroem estes sistemas, compreende totalmente porque é que os modelos de linguagem de grande dimensão se comportam da forma que se comportam. Processam enormes quantidades de texto, identificam padrões e geram respostas que podem parecer reflexivas ou até criativas. Mas o mecanismo interno continua, de formas importantes, opaco.

Essa opacidade importa para a ética. Se não consegue explicar porque é que um sistema tomou uma decisão, torna-se muito difícil responsabilizar alguém quando algo corre mal.

Para as pessoas ordinárias, a implicação prática é simples: as ferramentas de IA que usa no trabalho, na saúde ou na escola são construídas por empresas onde pessoas como Gabriel estão a lutar por ter um lugar à mesa. Se ganham esse argumento molda o que essas ferramentas fazem a si.

A presença de Gabriel não garante bons resultados. Mas a sua ausência provavelmente pioraria. A questão, sete anos depois, é se a ética funciona como um travão genuíno ou como decoração tranquilizadora numa máquina demasiado rápida para parar.