Texto Invisível em Ecrãs Android: Uma Nova Ameaça para Assistentes de IA
Investigadores encontram vulnerabilidades em agentes de IA que controlam telemóveis Android, com riscos que se estendem a PCs.
Pontos principais
- Investigadores demonstraram 7 ataques em 5 frameworks de agentes de IA Android de código aberto em outubro de 2023.
- Uma aplicação Android pode ocultar texto em ecrãs que os agentes de IA leem e seguem.
- Um ataque pode saltar de um telemóvel para um PC, executando comandos remotamente.
Um novo estudo de investigação revelou sérias vulnerabilidades em agentes de IA, que são peças de software capazes de ler o seu ecrã e interagir com ele como um humano faria, em telemóveis Android. Este estudo, reportado pela primeira vez por ThreatVectr, revela como estes agentes, utilizados em cinco frameworks de código aberto como AppAgent e AppAgentX, podem ser sequestrados por texto invisível plantado por aplicações maliciosas.
O que é que os investigadores descobriram?
Os investigadores demonstraram que, aproveitando permissões comuns do Android, uma aplicação fraudulenta pode exibir texto invisível aos humanos mas visível aos agentes de IA. A IA, incapaz de distinguir entre comandos do utilizador genuínos e estas instruções ocultas, pode ser enganada para executar tarefas que não deveria, como tirar capturas de ecrã ou enviar dados para um PC controlador. A falha reside na incapacidade da IA em diferenciar entre entradas de texto reais e maliciosas.
Devem os utilizadores estar preocupados?
Por enquanto, não existe ameaça imediata para utilizadores típicos. Os frameworks testados são projetos de investigação, não aplicações de consumidor que possa descarregar da Google Play Store. Contudo, à medida que assistentes de IA que conseguem ver e agir por si são desenvolvidos por grandes empresas tecnológicas como Google e Apple, estas vulnerabilidades podem tornar-se mais relevantes. Agentes de IA em produtos comerciais podem herdar fraquezas semelhantes, uma vez que funcionam lendo píxeis do ecrã.
Como é que o ataque funciona?
O ataque começa com uma aplicação a solicitar duas permissões comuns do Android: uma para desenhar sobre outras aplicações (pense em bolhas de chat) e outra para escrever ficheiros no armazenamento partilhado. Estes são pedidos padrão, frequentemente vistos em aplicações legítimas. A aplicação maliciosa escreve então texto invisível no ecrã, que o agente de IA lê e executa. No ataque mais grave, a IA pode ser forçada a executar comandos num PC conectado, criando uma falha de segurança significativa.
| Passos do Ataque | Descrição |
|---|---|
| Passo 1 | Aplicação solicita permissões de desenho e escrita. |
| Passo 2 | Texto invisível é colocado no ecrã. |
| Passo 3 | Agente de IA lê e executa comandos ocultos. |
| Passo 4 | Comandos podem ser retransmitidos para um PC controlador. |
O que podem fazer os utilizadores?
Enquanto a tecnologia avança, os utilizadores devem examinar cuidadosamente aplicações que solicitam permissões para desenhar sobre outras aplicações ou aceder ao armazenamento partilhado. Utilitários gratuitos, papéis de parede e teclados que pedem estas permissões devem ser tratados com cautela. Até que agentes de IA que leem ecrãs consigam lidar com segurança com entradas não confiáveis, ser seletivo com permissões de aplicações é a sua melhor defesa.
Perguntas comuns
Pode o meu telemóvel ser hackeado por texto invisível hoje?
Atualmente, o risco é baixo, uma vez que os frameworks vulneráveis não são voltados para consumidores. Contudo, estar atento às permissões de aplicações é prudente.
Devo evitar todas as aplicações que pedem permissões de desenho?
Não necessariamente, mas conceda estas permissões apenas a aplicações de programadores reputados e quando a função é essencial para o funcionamento da aplicação.
