Інструменти штучного інтелекту, які ваші колеги встановили без відома IT
Мільйони працівників тихо підключили помічники AI до своєї робочої пошти та файлів. Більшість компаній навіть не знають, що там працює або на що це здатне.
Ключові моменти
- AI-агенти — програмне забезпечення, яке виконує дії від вашого імені, а не просто відповідає на запитання, поширюються всередину корпоративних систем без схвалення IT.
- Більшість підключаються через OAuth, стандартний екран дозволу "Дозволити цій програмі", який може надати агенту довгострокований доступ до пошти, календарів і файлів двома кліками.
- Токен оновлення — довгоживучий цифровий ключ, створений під час цього схвалення, дозволяє агенту продовжувати вхід тижнями або місяцями без повторного запиту.
- Більшість компаній не мають централізованого списку активних агентів, хто їх схвалив або які дозволи вони мають.
- Як Google, так і Microsoft надають кожному користувачу сторінку, де він може прямо зараз побачити та видалити підключені програми.
Десь у вашій компанії хтось натиснув "Дозволити" на інструмент AI на минулому тижні. Вони мали добрі наміри. Вони знайшли щось, що складає їхні листи або планує їхні зустрічі, увійшли зі своїм робочим обліком і повернулися до роботи. Вони, ймовірно, не прочитали екран дозволів, який тихо надав цьому інструменту доступ до їхної поштової скриньки, календаря та спільного диска.
Як вперше повідомив ThreatVectr, це тепер є тенденцією в компаніях усіх розмірів, що розгортається всередину Google Workspace, Microsoft 365, Slack і Salesforce.
Що саме таке AI-агент і чому йому потрібен ваш пароль?
AI-агент — це не чат-бот. Чат-бот відповідає на запитання. Агент діє: він бронює зустрічі, подає видатки, складає та надсилає відповіді, переміщує файли між програмами. Щоб робити будь-що з цього, йому потрібно увійти як ви або поруч з вами.
Вхід відбувається через щось під назвою OAuth, механізм за кожною кнопкою "Вхід через Google", на яку ви коли-небудь клікали. Технічна специфікація називається RFC 6749, але ви вже знаєте, як це виглядає: з'являється екран зі списком того, до чого програма хоче мати доступ, ви натискаєте схвалення, і все готово.
Виловка полягає в тому, що створюється у фоні: токен оновлення. Думайте про це як про запасний ключ. Агент його утримує й використовує для автоматичного повторного входу тижнями або місяцями без будь-яких подальших запитів. Багатофакторна автентифікація, шеститисячний код, який ваш роботодавець, ймовірно, змушує вас використовувати, не допомагає тут. Ви вже пройшли цю перевірку, коли натиснули схвалення. Ключ агента працює без вас.
Чи повинні IT-команди хвилюватися?
Так, з конкретної причини. Стандартні інструменти безпеки створені для виявлення незвичної людської поведінки: хтось входить з нової країни, обліковий запис активний о 3 ночі. Агент, який входить о 3 ночі для обробки рахунків, виглядає цілком нормально для цих інструментів. Це, ймовірно, нормально. Але якщо ключ агента був вкрадений або якщо він має ширші дозволи, ніж повинен, ніхто цього не помічає.
Питання дозволів має велике значення. Екран схвалення часто містить широкий доступ: "читати всю пошту", "надсилати від користувача", "змінювати файли". Користувачі його гортають. Агент зберігає кожен дозвіл, який йому був надано, невизначено.
Наразі більшість компаній не мають інвентаризації того, які агенти підключені, хто їх схвалив або до чого вони можуть дотягатися.
| Що перевірити | Де шукати | Що робити |
|---|---|---|
| Обліковий запис Google | myaccount.google.com/permissions | Видаліть невідомі програми |
| Microsoft 365 | myapps.microsoft.com | Перегляньте схвалені програми |
| Slack | Параметри Slack, "Керування програмами" | Видаліть невикористані інтеграції |
| Salesforce | Setup, "Connected Apps OAuth Usage" | Проаудитуйте активні з'єднання |
Що звичайний персонал повинен зробити прямо зараз?
Перевірте, що підключено до вашого облікового запису. Як Google, так і Microsoft надають кожному користувачу простий список кожної програми, схвалено мати доступ до їхного облікового запису, з кнопкою одного кліка для відзиву. Якщо ви бачите щось, що не впізнаєте або більше не використовуєте, видаліть це.
Якщо у вашого роботодавця є IT-команда, повідомте їм про це замість того, щоб вгадувати. Розв'язання не полягає в припиненні використання інструментів AI. Це використання тих, які ваша організація перевірила та схвалила, надавши їм лише необхідний доступ.
Для IT-команд найближчим завданням є просте, якщо не гламурне: створити інвентаризацію того, що вже підключено, вимкнути можливість для персоналу схвалювати високоризикові дозволи самостійно та встановити термін дії токенів за розкладом замість того, щоб вони тривали невизначено.
Поширені запитання
Це те ж саме, що витік даних?
Не обов'язково. Ризик полягає в тому, що підключений агент утримує широкий, довгоживучий доступ, за яким ніхто не спостерігає. Це стає справжньою проблемою, якщо дозволи агента будуть неправильно використані або його ключ входу буде вкрадений.
Чи можу я все ще використовувати інструменти AI на роботі?
Так. Проблема не в самих інструментах AI, а в наданні широкого доступу до облікового запису програмному забезпеченню, яке ніхто не перевірив. Інструменти, які перевірила та схвалила ваша організація, з обмеженими дозволами, мають набагато менший ризик.
