Инструменты ИИ, которые ваши коллеги установили без ведома ИТ-отдела
Миллионы сотрудников незаметно подключили помощников с искусственным интеллектом к своей рабочей почте и файлам. Большинство компаний не знают, что работает, и на что это способно.
Ключевые моменты
- Агенты ИИ — программное обеспечение, которое выполняет действия от вашего имени, а не просто отвечает на вопросы — распространяются внутри корпоративных систем без одобрения ИТ-отдела.
- Большинство подключаются через OAuth, стандартный экран разрешения «Разрешить этому приложению», который может предоставить агенту долгосрочный доступ к электронной почте, календарям и файлам двумя щелчками мыши.
- Токен обновления — долгоживущий цифровой ключ, созданный при этом одобрении, позволяет агенту продолжать вход в систему неделями или месяцами без повторного запроса.
- Большинство компаний не ведут централизованный список активных агентов, кто их одобрил и какие разрешения они имеют.
- Как Google, так и Microsoft предоставляют каждому пользователю страницу, где он может сразу же увидеть и удалить подключенные приложения.
На прошлой неделе где-то в вашей компании кто-то нажал «Разрешить» на инструмент ИИ. Они делали это с благими намерениями. Они нашли что-то, что составляет их электронные письма или назначает встречи, вошли со своим рабочим аккаунтом и продолжили свой день. Вероятно, они не прочитали экран разрешений, который незаметно предоставил этому инструменту доступ к их входящей почте, календарю и общему диску.
Как впервые сообщила ThreatVectr, это теперь стало закономерностью в компаниях любого размера, разворачивающейся в Google Workspace, Microsoft 365, Slack и Salesforce.
Что именно такое агент ИИ и почему ему нужен ваш пароль?
Агент ИИ — это не чат-бот. Чат-бот отвечает на вопросы. Агент действует: он планирует встречи, обрабатывает расходы, составляет и отправляет ответы, перемещает файлы между приложениями. Для этого ему нужно войти как вы или наряду с вами.
Вход происходит через механизм, называемый OAuth, механизм за каждой кнопкой «Войти через Google», на которую вы когда-либо нажимали. Техническая спецификация называется RFC 6749, но вы уже знаете, как это выглядит: появляется экран со списком того, к чему приложению нужен доступ, вы нажимаете одобрить, и всё.
Проблема в том, что создается в фоне: токен обновления. Думайте о нем как о запасном ключе. Агент его держит и использует для автоматического входа в систему неделями или месяцами, без каких-либо новых запросов с вашей стороны. Многофакторная аутентификация, шестизначный код, который вероятно требует ваш работодатель, здесь не помогает. Вы уже прошли эту проверку, когда нажали одобрить. Ключ агента работает без вас.
Должны ли ИТ-команды беспокоиться?
Да, по конкретной причине. Стандартные инструменты безопасности предназначены для выявления необычного поведения человека: кто-то входит из новой страны, аккаунт активен в 3 часа ночи. Агент, входящий в 3 часа ночи для обработки счетов, выглядит совершенно нормально для этих инструментов. Вероятно, это нормально. Но если ключ агента был украден или если он имеет более широкие разрешения, чем следует, никто это не заметит.
Вопрос разрешений очень важен. На экране одобрения часто указан широкий доступ: «прочитать всю почту», «отправлять от имени пользователя», «изменять файлы». Пользователи его просматривают. Агент сохраняет каждое разрешение, которое ему было предоставлено, неограниченно.
В настоящее время большинство компаний не имеют инвентаря подключенных агентов, кто их одобрил или к чему они могут получить доступ.
| Что проверить | Где искать | Что сделать |
|---|---|---|
| Аккаунт Google | myaccount.google.com/permissions | Удалите неизвестные приложения |
| Microsoft 365 | myapps.microsoft.com | Просмотрите авторизованные приложения |
| Slack | Параметры Slack, «Управление приложениями» | Удалите неиспользуемые интеграции |
| Salesforce | Установка, «Использование подключенных приложений OAuth» | Проверьте активные подключения |
Что обычный персонал должен сделать прямо сейчас?
Проверьте, что подключено к вашему аккаунту. Как Google, так и Microsoft предоставляют каждому пользователю четкий список каждого приложения, одобренного для доступа к его аккаунту, с кнопкой отзыва в один клик. Если вы видите что-то, что не узнаёте или больше не используете, удалите это.
Если у вашего работодателя есть ИТ-команда, сообщите им об этом, вместо того чтобы гадать. Суть не в том, чтобы перестать использовать инструменты ИИ. Это использование инструментов, которые ваша организация проверила и одобрила, предоставив им только необходимый доступ.
Для ИТ-команд ближайшая задача проста, хотя и неопрятна: составить инвентарь того, что уже подключено, отключить возможность сотрудников самостоятельно одобрять высокорискованные разрешения и установить истечение токенов по расписанию, а не неограниченный срок.
Часто задаваемые вопросы
Это то же самое, что утечка данных?
Не обязательно. Риск в том, что подключенный агент имеет широкий, долгоживущий доступ, за которым никто не следит. Это становится реальной проблемой, если разрешения агента используются ненадлежащим образом или его ключ входа украден.
Могу ли я все еще использовать инструменты ИИ на работе?
Да. Проблема не в самих инструментах ИИ, а в предоставлении широкого доступа к аккаунту программному обеспечению, которое никто не проверил. Инструменты, которые ваш работодатель проверил и одобрил, с ограниченными разрешениями, несут гораздо меньший риск.
