Deveria a sua IA ajudá-lo a fazer o que quer, não importa o quê?

Pontos-chave

• O fundador da Comma AI, George Hotz, argumentou publicamente que a IA deveria estar totalmente alinhada com os desejos do utilizador individual, incluindo ajudar com atividades ilegais.
• Hotz comparou a IA alinhada ao utilizador com uma arma, que não julga como é usada.
• O debate segue um documento de política chamado AI 2040: Plan A, do AI Futures Institute, que propôs desacelerar o desenvolvimento de IA durante 14 anos.
• A maioria dos assistentes de IA convencionais, como ChatGPT e Claude, são serviços geridos centralmente que recusam pedidos considerados prejudiciais.
• O argumento levanta uma questão real sobre quem a IA deveria servir: o utilizador individual ou a sociedade em geral.

George Hotz, fundador da Comma AI (uma empresa que fabrica software de assistência à condução) e uma figura bem conhecida na comunidade de hackers, publicou um argumento no fim de semana que é, para dizê-lo de forma moderada, um gerador de conversa.

A sua posição: uma IA adequadamente alinhada, ou seja, uma IA que verdadeiramente serve o seu utilizador, deveria ajudar esse utilizador a fazer o que quer. Encomendar químicos suspeitos. Explicar processos ilegais. Ajudar a planear um crime. Se o utilizador o quer, a IA deveria ajudar.

Hotz comparou este tipo de IA com uma arma. Uma arma não faz perguntas.

Estava a responder a um documento de política chamado AI 2040: Plan A, publicado pelo AI Futures Institute. O documento propõe que os investigadores de IA do mundo abrandem voluntariamente o desenvolvimento durante 14 anos para dar à humanidade tempo para compreender a segurança. Hotz pensa que essa é a abordagem errada. Acredita que a verdadeira solução para a segurança da IA são modelos locais de IA, software que funciona no seu próprio dispositivo e responde apenas a si, em vez de serviços geridos centralmente como ChatGPT ou Claude que uma empresa controla e restringe.

Esta parte do seu argumento é genuinamente interessante. Como o AI2Day observou na sua cobertura, a maioria da IA hoje funciona nos servidores das empresas, é moldada pelas regras das empresas e pode ser alterada ou desligada a qualquer momento. Uma IA verdadeiramente pessoal, uma que funciona no seu telefone e trabalha apenas para si, é uma coisa completamente diferente. Mais como uma ferramenta privada do que um serviço de subscrição.

Mas Hotz vai além desse ponto razoável para entrar em território mais complexo. O seu enquadramento é essencialmente: liberdade significa sem limites, ponto final.

O problema prático é que a liberdade nunca funcionou assim, para ninguém. Estradas, regras de segurança alimentar, direito contratual, tudo isto são restrições que fazem a rede mais ampla da sociedade funcionar. Produtos usados por milhões de pessoas situam-se dentro dessa rede quer os seus criadores gostem ou não.

Aqui está a versão clara: se uma IA ajuda uma pessoa a planear algo que prejudica outra pessoa, a vítima não consentiu com esse acordo. A liberdade do primeiro utilizador acaba em algum lugar perto do bem-estar do segundo.

Para utilizadores comuns, nada disto muda o que as ferramentas de IA podem fazer hoje. ChatGPT, Claude e assistentes semelhantes continuarão a recusar pedidos que cruzem linhas legais ou éticas claras. Modelos locais de IA existem e estão a melhorar, mas os verdadeiramente capazes ainda requerem configuração técnica que a maioria das pessoas consideraria frustrante.

Fique atento a este espaço, porém. À medida que modelos menores se tornam mais capazes, a questão de quem controla a sua IA e que regras segue importará cada vez mais para a vida quotidiana.