As ferramentas de IA que os seus colegas instalaram sem avisar a TI
Milhões de trabalhadores ligaram silenciosamente assistentes de IA ao seu email e ficheiros de trabalho. A maioria das empresas não tem ideia do que está em execução, ou do que pode fazer.
Pontos-chave
- Agentes de IA, software que executa ações em seu nome em vez de apenas responder a perguntas, estão a espalhar-se dentro dos sistemas da empresa sem aprovação da TI.
- A maioria conecta-se através de OAuth, o ecrã de permissão padrão "Permitir esta aplicação", que pode dar a um agente acesso de longa duração ao email, calendários e ficheiros em dois cliques.
- Um token de renovação, uma chave digital de longa duração criada durante essa aprovação, permite que um agente continue a fazer login durante semanas ou meses sem pedir novamente.
- A maioria das empresas não tem uma lista centralizada de quais agentes estão ativos, quem os aprovou, ou que permissões detêm.
- Tanto Google como Microsoft dão a cada utilizador uma página onde podem ver e remover aplicações conectadas neste momento.
Em algum lugar da sua empresa, alguém clicou em "Permitir" numa ferramenta de IA na semana passada. Tinham boas intenções. Encontraram algo que redige os seus emails ou marca as suas reuniões, fizeram login com a sua conta de trabalho, e continuaram o seu dia. O que provavelmente não leram foi o ecrã de permissões que silenciosamente deu a essa ferramenta acesso à sua caixa de entrada, ao seu calendário e à sua unidade partilhada.
Conforme reportado pela primeira vez por ThreatVectr, isto é agora um padrão em empresas de todos os tamanhos, ocorrendo dentro de Google Workspace, Microsoft 365, Slack e Salesforce.
O que exatamente é um agente de IA e porque é que precisa da sua palavra-passe?
Um agente de IA não é um chatbot. Um chatbot responde a perguntas. Um agente atua: marca reuniões, processa despesas, redige e envia respostas, move ficheiros entre aplicações. Para fazer qualquer uma dessas coisas, precisa fazer login como você, ou junto de si.
O login acontece através de algo chamado OAuth, o mecanismo por trás de cada botão "Iniciar sessão com Google" que já clicou. A especificação técnica chama-se RFC 6749, mas já sabe como se sente: um ecrã aparece listando o que a aplicação quer aceder, clica em aprovar, e é tudo.
O problema é o que é criado em segundo plano: um token de renovação. Pense nele como uma chave sobressalente. O agente guarda-a e usa-a para continuar a fazer login automaticamente, durante semanas ou meses, sem você ver outra solicitação. A autenticação multifator, o código de seis dígitos que o seu empregador provavelmente o obriga a usar, não ajuda aqui. Já passou essa verificação quando clicou em aprovar. A chave do agente funciona sem si.
Deveriam as equipas de TI estar preocupadas?
Sim, por uma razão específica. As ferramentas de segurança padrão são construídas para detetar comportamento humano invulgar: alguém fazendo login de um novo país, uma conta ativa às 3 da manhã. Um agente fazendo login às 3 da manhã para processar faturas parece perfeitamente normal para essas ferramentas. Provavelmente é normal. Mas se a chave do agente foi roubada, ou se mantém permissões mais amplas do que deveria, ninguém repara.
A questão das permissões importa muito. O ecrã de aprovação frequentemente lista acesso amplo: "ler todo o correio", "enviar como utilizador", "modificar ficheiros". Os utilizadores leem por alto. O agente mantém todas as permissões que lhe foram concedidas, indefinidamente.
A maioria das empresas atualmente não tem inventário de quais agentes estão conectados, quem os aprovou, ou a que podem aceder.
| O que verificar | Onde procurar | O que fazer |
|---|---|---|
| Conta Google | myaccount.google.com/permissions | Remova aplicações que não reconhece |
| Microsoft 365 | myapps.microsoft.com | Revise aplicações com consentimento |
| Slack | Definições Slack, "Gerir aplicações" | Remova integrações não utilizadas |
| Salesforce | Configuração, "Utilização OAuth de Aplicações Conectadas" | Audite conexões ativas |
O que deveriam fazer os funcionários comuns neste momento?
Verifique o que está conectado à sua conta. Tanto Google como Microsoft dão a cada utilizador uma lista clara de cada aplicação aprovada para aceder à sua conta, com um botão de revogação de um clique. Se vir algo que não reconhece ou que já não usa, remova-o.
Se o seu empregador tem uma equipa de TI, sinalize-o a eles em vez de adivinhar. A solução não é parar de usar ferramentas de IA. É usar aquelas que a sua organização verificou e aprovou, com apenas o acesso de que genuinamente precisam.
Para equipas de TI a tarefa de curto prazo é direta se desinteressante: construir um inventário do que já está conectado, desativar a capacidade do pessoal aprovar permissões de alto risco por si próprio, e definir tokens para expirar num calendário em vez de durarem indefinidamente.
Perguntas comuns
É isto o mesmo que uma violação de dados?
Não automaticamente. O risco é que um agente conectado detenha acesso amplo e de longa duração que ninguém está a vigiar. Isto torna-se um problema real se as permissões do agente forem mal utilizadas ou se a sua chave de login for roubada.
Posso ainda usar ferramentas de IA no trabalho?
Sim. O problema não são as ferramentas de IA em si, mas dar acesso generalizado da conta a software que ninguém revisou. Ferramentas que o seu empregador verificou e aprovou, com permissões limitadas, carregam muito menos risco.
