Невидимый текст на экранах Android: новая угроза для ИИ-помощников
Исследователи обнаружили уязвимости в ИИ-агентах, управляющих телефонами Android, с рисками, распространяющимися на ПК.
Ключевые моменты
- Исследователи продемонстрировали 7 атак на 5 открытых фреймворков ИИ-агентов для Android в октябре 2023 года.
- Приложение Android может скрывать текст на экранах, который читают и выполняют ИИ-агенты.
- Одна атака может перейти с телефона на ПК, выполняя команды удалённо.
Новое исследование выявило серьёзные уязвимости в ИИ-агентах — программном обеспечении, которое может читать ваш экран и взаимодействовать с ним как человек, на телефонах Android. Это исследование, впервые опубликованное на ThreatVectr, показывает, как такие агенты, используемые в пяти открытых фреймворках, включая AppAgent и AppAgentX, могут быть взломаны невидимым текстом, внедрённым вредоносными приложениями.
Что обнаружили исследователи?
Исследователи продемонстрировали, что, используя обычные разрешения Android, вредоносное приложение может отображать текст, невидимый для человека, но видимый для ИИ-агентов. ИИ, не в состоянии отличить подлинные команды пользователя от этих скрытых инструкций, может быть обманут и выполнять задачи, которые не должен, например, делать снимки экрана или отправлять данные на управляющий ПК. Проблема заключается в неспособности ИИ различать реальные и вредоносные текстовые входы.
Должны ли пользователи беспокоиться?
На данный момент нет непосредственной угрозы для обычных пользователей. Протестированные фреймворки — это исследовательские проекты, а не потребительские приложения, которые вы можете загрузить из Google Play Store. Однако, поскольку ИИ-помощники, которые могут видеть и действовать за вас, разрабатываются крупными технологическими компаниями, такими как Google и Apple, эти уязвимости могут стать более актуальными. ИИ-агенты в коммерческих продуктах могут унаследовать аналогичные слабости, так как они работают путём чтения пикселей экрана.
Как работает атака?
Атака начинается с того, что приложение запрашивает два обычных разрешения Android: одно для рисования над другими приложениями (например, речевые пузырьки) и другое для записи файлов в общее хранилище. Это стандартные запросы, часто встречающиеся в легитимных приложениях. Затем вредоносное приложение размещает невидимый текст на экране, который читает и выполняет ИИ-агент. При самой серьёзной атаке ИИ может быть заставлен выполнять команды на подключённом ПК, создавая значительный брешь в безопасности.
| Этапы атаки | Описание |
|---|---|
| Этап 1 | Приложение запрашивает разрешения на рисование и запись. |
| Этап 2 | На экран помещается невидимый текст. |
| Этап 3 | ИИ-агент читает и выполняет скрытые команды. |
| Этап 4 | Команды могут быть передачены на управляющий ПК. |
Что могут делать пользователи?
По мере развития технологии пользователи должны внимательно изучать приложения, запрашивающие разрешения на рисование над другими приложениями или доступ к общему хранилищу. Бесплатные утилиты, обои и клавиатуры, запрашивающие эти разрешения, должны рассматриваться с осторожностью. Пока ИИ-агенты, читающие экран, не смогут безопасно работать с ненадёжными входными данными, избирательный подход к разрешениям приложений — ваша лучшая защита.
Часто задаваемые вопросы
Может ли мой телефон быть взломан невидимым текстом сегодня?
На данный момент риск невелик, так как уязвимые фреймворки не ориентированы на потребителей. Однако быть бдительным в отношении разрешений приложений — это разумно.
Следует ли мне избегать всех приложений, запрашивающих разрешения на рисование?
Не обязательно, но предоставляйте эти разрешения только приложениям от авторитетных разработчиков и только когда эта функция необходима для работы приложения.
