Die KI-Tools, die Ihre Kollegen ohne IT-Genehmigung installiert haben
Millionen von Arbeitnehmern haben KI-Helfer stillschweigend mit ihrer geschäftlichen E-Mail und ihren Dateien verbunden. Die meisten Unternehmen wissen nicht, was läuft oder was es tun kann.
Wichtigste Punkte
- KI-Agenten, Software, die Maßnahmen in Ihrem Namen ergreift, anstatt nur Fragen zu beantworten, breiten sich ohne IT-Genehmigung in Unternehmenssystemen aus.
- Die meisten verbinden sich über OAuth, den standardmäßigen Berechtigungsbildschirm „Diese App zulassen", der einem Agenten in zwei Klicks langfristigen Zugriff auf E-Mail, Kalender und Dateien gewähren kann.
- Ein Refresh-Token, ein langlebiger digitaler Schlüssel, der während dieser Genehmigung erstellt wird, ermöglicht es einem Agenten, sich wochenlang oder monatelang ohne erneute Aufforderung anzumelden.
- Die Mehrheit der Unternehmen hat keine zentrale Liste darüber, welche Agenten aktiv sind, wer sie genehmigt hat oder welche Berechtigungen sie haben.
- Sowohl Google als auch Microsoft bieten jedem Benutzer eine Seite, auf der er verbundene Apps sofort sehen und entfernen kann.
Irgendwo in Ihrem Unternehmen hat letzte Woche jemand bei einem KI-Tool auf „Zulassen" geklickt. Die Absicht war gut. Sie fanden etwas, das ihre E-Mails verfasst oder ihre Meetings terminiert, meldeten sich mit ihrem Geschäftskonto an und machten weiter. Wahrscheinlich haben sie den Berechtigungsbildschirm nicht gelesen, der diesem Tool stillschweigend Zugriff auf ihren Posteingang, ihren Kalender und ihr gemeinsames Laufwerk gewährte.
Wie zuerst von ThreatVectr berichtet, ist dies jetzt ein Muster in Unternehmen jeder Größe und spielt sich in Google Workspace, Microsoft 365, Slack und Salesforce ab.
Was genau ist ein KI-Agent und warum braucht er Ihr Passwort?
Ein KI-Agent ist kein Chatbot. Ein Chatbot beantwortet Fragen. Ein Agent handelt: er bucht Meetings, reicht Ausgaben ein, verfasst und sendet Antworten, verschiebt Dateien zwischen Apps. Um all das zu tun, muss er sich als Sie anmelden oder neben Ihnen arbeiten.
Die Anmeldung erfolgt über etwas, das OAuth genannt wird, den Mechanismus hinter jeder Schaltfläche „Mit Google anmelden", auf die Sie je geklickt haben. Die technische Spezifikation heißt RFC 6749, aber Sie kennen bereits, wie sich das anfühlt: ein Bildschirm erscheint, auf dem aufgelistet ist, worauf die App Zugriff haben möchte, Sie klicken auf Genehmigen, und das wars.
Der Haken ist das, was im Hintergrund erstellt wird: ein Refresh-Token. Stellen Sie sich es wie einen Ersatzschlüssel vor. Der Agent hält ihn und nutzt ihn, um sich automatisch wochenlang oder monatelang anzumelden, ohne dass Sie eine weitere Aufforderung sehen. Multi-Faktor-Authentifizierung, der sechsstellige Code, den Ihr Arbeitgeber Sie wahrscheinlich verwenden muss, hilft hier nicht. Sie haben diese Überprüfung bereits bestanden, als Sie auf Genehmigen geklickt haben. Der Schlüssel des Agenten funktioniert ohne Sie.
Sollten IT-Teams sich Sorgen machen?
Ja, aus einem bestimmten Grund. Standard-Sicherheitstools sind so konzipiert, dass sie ungewöhnliches menschliches Verhalten erkennen: jemand meldet sich aus einem neuen Land an, ein Konto ist um 3 Uhr morgens aktiv. Ein Agent, der sich um 3 Uhr morgens anmeldet, um Rechnungen zu verarbeiten, sieht für diese Tools völlig normal aus. Das ist es wahrscheinlich auch. Aber wenn der Schlüssel des Agenten gestohlen wurde oder breitere Berechtigungen hat, als er sollte, bemerkt das niemand.
Die Berechtigungsfrage ist sehr wichtig. Der Genehmigungsbildschirm listet oft breite Zugriffe auf: „alle E-Mails lesen", „als Benutzer senden", „Dateien ändern". Benutzer überfliegen es. Der Agent behält jede Berechtigung, die ihm gewährt wurde, auf unbestimmte Zeit.
Die meisten Unternehmen haben derzeit keine Übersicht darüber, welche Agenten verbunden sind, wer sie genehmigt hat oder worauf sie Zugriff haben.
| Was zu überprüfen ist | Wo zu schauen | Was zu tun ist |
|---|---|---|
| Google-Konto | myaccount.google.com/permissions | Apps entfernen, die Sie nicht erkennen |
| Microsoft 365 | myapps.microsoft.com | Genehmigte Anwendungen überprüfen |
| Slack | Slack-Einstellungen, „Apps verwalten" | Ungenutzte Integrationen entfernen |
| Salesforce | Setup, „Connected Apps OAuth Usage" | Aktive Verbindungen überprüfen |
Was sollten normale Mitarbeiter jetzt tun?
Überprüfen Sie, was mit Ihrem Konto verbunden ist. Sowohl Google als auch Microsoft bieten jedem Benutzer eine klare Liste aller Apps, die genehmigt sind, auf sein Konto zuzugreifen, mit einer Ein-Klick-Schaltfläche zum Widerrufen. Wenn Sie etwas sehen, das Sie nicht erkennen oder nicht mehr verwenden, entfernen Sie es.
Falls Ihr Arbeitgeber ein IT-Team hat, teilen Sie es ihm mit, anstatt zu raten. Die Lösung ist nicht, die Verwendung von KI-Tools zu beenden. Es ist, diejenigen zu verwenden, die Ihre Organisation überprüft und genehmigt hat und denen nur der Zugriff gewährt wurde, den sie wirklich benötigen.
Für IT-Teams ist die kurzfristige Aufgabe einfach, wenn auch unspektakulär: Erstellen Sie eine Übersicht über das, was bereits verbunden ist, deaktivieren Sie die Möglichkeit für Mitarbeiter, hochriskante Berechtigungen eigenständig zu genehmigen, und legen Sie fest, dass Tokens nach einem Zeitplan ablaufen, anstatt auf unbestimmte Zeit zu bestehen.
Häufig gestellte Fragen
Ist dies das gleiche wie eine Datenpanne?
Nicht automatisch. Das Risiko besteht darin, dass ein verbundener Agent breite, langfristige Zugriffe hält, die niemand überwacht. Das wird zu einem echten Problem, wenn die Berechtigungen des Agenten missbraucht werden oder sein Anmeldeschlüssel gestohlen wird.
Kann ich KI-Tools weiterhin bei der Arbeit verwenden?
Ja. Das Problem sind nicht die KI-Tools selbst, sondern umfassenden Kontenzugriff für Software zu gewähren, die niemand überprüft hat. Tools, die Ihr Arbeitgeber überprüft und genehmigt hat, mit eingeschränkten Berechtigungen, tragen ein viel geringeres Risiko.
