Gli strumenti AI che i vostri colleghi hanno installato senza avvisare l'IT
Milioni di lavoratori hanno silenziosamente collegato assistenti AI alla loro posta elettronica aziendale e ai loro file. La maggior parte delle aziende non sa cosa sta girando, né cosa può fare.
Punti chiave
- Gli agenti AI, software che compie azioni per vostro conto anziché semplicemente rispondere a domande, si stanno diffondendo nei sistemi aziendali senza l'approvazione dell'IT.
- La maggior parte si connette tramite OAuth, la schermata standard di permesso "Consenti a questa app", che può concedere a un agente accesso a lungo termine a posta elettronica, calendari e file in due clic.
- Un refresh token, una chiave digitale a lunga durata creata durante quell'approvazione, consente a un agente di continuare a effettuare l'accesso per settimane o mesi senza chiedere di nuovo.
- La maggior parte delle aziende non dispone di un elenco centrale di quali agenti sono attivi, chi li ha approvati o quali permessi detengono.
- Sia Google che Microsoft forniscono a ogni utente una pagina dove può visualizzare e rimuovere le app collegate in questo momento.
Da qualche parte nella vostra azienda, qualcuno ha fatto clic su "Consenti" per uno strumento AI la scorsa settimana. Aveva buone intenzioni. Ha trovato qualcosa che redige le sue email o pianifica le sue riunioni, ha effettuato l'accesso con il suo account aziendale e ha ripreso la sua giornata. Probabilmente non ha letto la schermata dei permessi che ha silenziosamente concesso a quello strumento l'accesso alla sua casella di posta, al suo calendario e alla sua unità condivisa.
Come riportato per la prima volta da ThreatVectr, si tratta ora di un modello diffuso nelle aziende di ogni dimensione, che si ripete all'interno di Google Workspace, Microsoft 365, Slack e Salesforce.
Che cosa esattamente è un agente AI e perché ha bisogno della vostra password?
Un agente AI non è un chatbot. Un chatbot risponde a domande. Un agente agisce: prenota riunioni, archivia spese, redige e invia risposte, sposta file tra app. Per fare qualsiasi cosa, deve accedere come voi, o insieme a voi.
L'accesso avviene tramite qualcosa chiamato OAuth, il meccanismo dietro ogni pulsante "Accedi con Google" che abbiate mai cliccato. La specifica tecnica è chiamata RFC 6749, ma voi già sapete come si sente: appare una schermata che elenca ciò a cui l'app vuole accedere, voi fate clic per approvare, e basta.
Il problema è ciò che viene creato in background: un refresh token. Pensatelo come una chiave di riserva. L'agente la detiene e la utilizza per continuare a effettuare l'accesso, automaticamente, per settimane o mesi, senza che vediate un altro prompt. L'autenticazione multiffattore, il codice a sei cifre che probabilmente il vostro datore di lavoro vi costringe a usare, non aiuta qui. Avete già superato quel controllo quando avete fatto clic per approvare. La chiave dell'agente funziona senza di voi.
I team IT dovrebbero essere preoccupati?
Sì, per una ragione specifica. Gli strumenti di sicurezza standard sono costruiti per individuare comportamenti umani insoliti: qualcuno che accede da un nuovo paese, un account attivo alle 3 del mattino. Un agente che accede alle 3 del mattino per elaborare fatture sembra perfettamente normale a questi strumenti. Probabilmente lo è. Ma se la chiave dell'agente è stata rubata, o se detiene permessi più ampi di quanto dovrebbe, nessuno se ne accorge.
La questione dei permessi è molto importante. La schermata di approvazione spesso elenca accessi ampi: "leggi tutte le email", "invia come utente", "modifica file". Gli utenti la sfogliano. L'agente mantiene ogni permesso che gli è stato concesso, indefinitamente.
Attualmente, la maggior parte delle aziende non dispone di un inventario di quali agenti sono collegati, chi li ha approvati o a cosa possono accedere.
| Cosa controllare | Dove cercare | Cosa fare |
|---|---|---|
| Account Google | myaccount.google.com/permissions | Rimuovere le app che non riconoscete |
| Microsoft 365 | myapps.microsoft.com | Controllare le applicazioni con consenso |
| Slack | Impostazioni Slack, "Gestisci app" | Rimuovere le integrazioni inutilizzate |
| Salesforce | Setup, "Connected Apps OAuth Usage" | Controllare le connessioni attive |
Cosa dovrebbero fare i normali dipendenti adesso?
Controllate cosa è collegato al vostro account. Sia Google che Microsoft forniscono a ogni utente un elenco semplice di ogni app approvata per accedere al proprio account, con un pulsante di revoca a un clic. Se vedete qualcosa che non riconoscete o che non usate più, rimuovetelo.
Se il vostro datore di lavoro ha un team IT, segnalatelo a loro piuttosto che indovinare. La soluzione non è smettere di usare strumenti AI. È usare quelli che la vostra organizzazione ha controllato e approvato, ai quali è stata concessa solo l'accesso di cui hanno davvero bisogno.
Per i team IT, il compito a breve termine è semplice, anche se poco affascinante: costruire un inventario di ciò che è già collegato, disattivare la capacità del personale di approvare permessi ad alto rischio da solo, e impostare i token in modo che scadano secondo un programma anziché durare indefinitamente.
Domande frequenti
È lo stesso di una violazione dei dati?
Non automaticamente. Il rischio è che un agente collegato detenga un accesso ampio e a lunga durata che nessuno sta monitorando. Questo diventa un vero problema se i permessi dell'agente vengono utilizzati in modo improprio o la sua chiave di accesso viene rubata.
Posso ancora usare strumenti AI al lavoro?
Sì. Il problema non sono gli strumenti AI stessi, ma concedere accesso esteso all'account a software che nessuno ha esaminato. Gli strumenti che il vostro datore di lavoro ha verificato e approvato, con permessi limitati, comportano un rischio molto più basso.
