Testo invisibile su schermi Android: una nuova minaccia per gli assistenti AI
Ricercatori scoprono vulnerabilità negli agenti AI che controllano telefoni Android, con rischi che si estendono ai PC.
Punti chiave
- I ricercatori hanno dimostrato 7 attacchi su 5 framework Android AI open-source nell'ottobre 2023.
- Un'app Android può nascondere testo sugli schermi che gli agenti AI leggono e seguono.
- Un attacco può saltare da un telefono a un PC, eseguendo comandi da remoto.
Un nuovo studio di ricerca ha scoperto gravi vulnerabilità negli agenti AI, software in grado di leggere lo schermo e interagire con esso come farebbe un essere umano, sui telefoni Android. Questo studio, riportato per primo da ThreatVectr, rivela come tali agenti, utilizzati in cinque framework open-source come AppAgent e AppAgentX, possono essere dirottati da testo invisibile inserito da app dannose.
Cosa hanno scoperto i ricercatori?
I ricercatori hanno dimostrato che sfruttando i permessi Android comuni, un'app malevola può visualizzare testo invisibile agli umani ma visibile agli agenti AI. L'AI, incapace di distinguere tra comandi utente genuini e queste istruzioni nascoste, può essere ingannato nell'eseguire compiti che non dovrebbe, come acquisire screenshot o inviare dati a un PC controllatore. Il difetto risiede nell'incapacità dell'AI di differenziare tra input di testo reali e malevoli.
Gli utenti dovrebbero preoccuparsi?
Per ora, non c'è una minaccia immediata per gli utenti tipici. I framework testati sono progetti di ricerca, non app consumer che potresti scaricare dal Google Play Store. Tuttavia, man mano che gli assistenti AI in grado di vedere e agire per te vengono sviluppati da grandi aziende tecnologiche come Google e Apple, queste vulnerabilità potrebbero diventare più rilevanti. Gli agenti AI nei prodotti commerciali potrebbero ereditare debolezze simili poiché funzionano leggendo i pixel dello schermo.
Come funziona l'attacco?
L'attacco inizia con un'app che richiede due permessi Android comuni: uno per disegnare sopra altre app (pensa a bolle di chat) e un altro per scrivere file nell'archiviazione condivisa. Queste sono richieste standard, spesso viste in app legittime. L'app malevola scrive quindi testo invisibile sullo schermo, che l'agente AI legge ed esegue. Nell'attacco più grave, l'AI può essere costretto a eseguire comandi su un PC connesso, creando una violazione della sicurezza significativa.
| Fasi dell'attacco | Descrizione |
|---|---|
| Fase 1 | L'app richiede i permessi di disegno e scrittura. |
| Fase 2 | Il testo invisibile viene posizionato sullo schermo. |
| Fase 3 | L'agente AI legge ed esegue i comandi nascosti. |
| Fase 4 | I comandi possono essere inoltrati a un PC controllatore. |
Cosa possono fare gli utenti?
Mentre la tecnologia progredisce, gli utenti dovrebbero esaminare attentamente le app che richiedono i permessi per disegnare sopra altre app o accedere all'archiviazione condivisa. Le utility gratuite, gli sfondi e le tastiere che richiedono questi permessi dovrebbero essere trattati con cautela. Finché gli agenti AI che leggono lo schermo non riusciranno a gestire in sicurezza input non attendibili, essere selettivi con i permessi delle app è la tua migliore difesa.
Domande comuni
Il mio telefono può essere hackerato dal testo invisibile oggi?
Attualmente, il rischio è basso poiché i framework vulnerabili non sono rivolti ai consumatori. Tuttavia, rimanere vigile sui permessi delle app è saggio.
Dovrei evitare tutte le app che chiedono i permessi di disegno?
Non necessariamente, ma concedi questi permessi solo alle app di sviluppatori affidabili e quando la funzione è essenziale per il funzionamento dell'app.
