ИИ нашел новый класс уязвимостей веб-сайтов. Человеку пришлось объяснить, почему это важно.

Ключевые моменты

• Исследователь безопасности Джеймс Кеттл представил результаты на конференции Black Hat в Лас-Вегасе в августе 2025 года, показав, что ИИ может генерировать исследовательские идеи для взлома намного быстрее, чем любой человек в одиночку.
• Кеттл определил новый класс уязвимостей веб-сайтов, который он назвал Shared-Parser Confusion, обнаруженный благодаря сотрудничеству человека и ИИ с использованием самых последних на тот момент моделей от Anthropic и OpenAI.
• Модели ИИ, работающие самостоятельно, с трудом создавали действительно оригинальные исследования и иногда выдавали существующие работы за новые.
• Наиболее мощные результаты достигались, когда Кеттл предоставлял ИИ свои собственные методы исследований и проверял его результаты с помощью своих экспертных знаний.
• На данный момент полностью автономные исследования взлома с помощью ИИ имеют реальные ограничения; модель с участием человека дает наиболее значимые результаты.

Долгие годы дискуссия об ИИ и кибербезопасности следовала простой схеме: ИИ находит ошибки быстрее, злоумышленники его используют, защитники его используют, начинается гонка вооружений. Джеймс Кеттл, опытный исследователь веб-безопасности, захотел задать более сложный вопрос. Может ли ИИ действительно придумать совершенно новые способы взлома чего-либо, начиная с пустого листа и заканчивая работающей атакой?

Его ответ, озвученный на Black Hat в Лас-Вегасе на этой неделе, интереснее, чем просто «да» или «нет».

Что именно обнаружил Кеттл?

ИИ в одиночку слаб в оригинальном мышлении. Если его объединить с знающим человеком в нужные моменты, он становится поразительно мощным.

Кеттл начал свои эксперименты в сентябре 2025 года, используя самые новые доступные модели от Anthropic и OpenAI, двух компаний, которые создали семейства ИИ-помощников Claude и ChatGPT. Вскоре он столкнулся с проблемой: системы выдавали уже известные исследования за свежие открытия, выбирая достаточно малоизвестные темы, чтобы он не мог их легко уличить. Поэтому он сузил область до своей специальности — веб-безопасности, где он знал каждую существующую работу и не мог быть обманут.

Затем он обучил модели своей личной методологии исследования, дав им карту того, как он думает. Результаты быстро изменились.

«Система выдавала заметные находки примерно раз в два дня, даже если я не заходил в систему», — рассказал Кеттл изданию Wired AI. «Было столько исследовательских идей, что возникал страх упустить возможность изучить все из них».

За несколько месяцев ИИ выявил больше подтвержденных примеров уязвимостей, чем Кеттл предполагает, что он мог бы найти за несколько лет самостоятельной работы.

Что такое Shared-Parser Confusion?

Это недавно выявленный класс уязвимостей веб-сайтов, и его значение в том, что он обнажает границы доверия, которую разработчики никогда не думали подвергать сомнению.

Веб-серверы используют код, называемый парсером, для чтения и интерпретации данных. Анализ ИИ Кеттла выявил что-то тонкое: некоторые серверы используют один и тот же общий парсер для обработки как входящих запросов от пользователей, так и исходящих ответов от сервера. Запросы по определению не являются доверенными; любой в интернете может отправить что угодно. Ответы рассматриваются как безопасные. Если злоумышленник может размыть эту границу, он может протащить вредоносный контент через путь, который сервер считает безопасным.

«Это серьезная поверхность атаки и потенциально может привести ко многим различным типам атак», — сказал Кеттл.

ИИ не доказал самостоятельно существование уязвимости. Он провел анализ набора подтвержденных реальных находок и выдвинул гипотезу. Кеттл оценил ее, нашел её в одной строке документации и подтвердил. Ни один из них не смог бы добраться туда в одиночку.

Должны ли команды безопасности беспокоиться об атаках, управляемых ИИ?

Да, но более непосредственная проблема — это ускорение исследований, а не полностью автономная машина для взлома.

Кеттл прямо говорит об ограничениях. ИИ, пытающийся работать в одиночку, все еще галлюцинирует, перерабатывает старые работы и не может полностью проверить свои собственные выводы. Опасность сегодня заключается в цикле обратной связи: опытный злоумышленник, использующий ИИ как исследовательского партнера, может продвигаться в обнаружении уязвимостей со скоростью, на которую оборонительные команды еще не готовы.

Находка также важна для защиты. То же самое сотрудничество человека и ИИ, которое находит новый класс атак, можно использовать для его устранения.

Обратите внимание: на незапрашиваемые отчеты об уязвимостях, в которых цитируется анализ, созданный ИИ, без указания имени исследователя или методологии. Количество правдоподобных, но непроверенных заявлений об уязвимостях скоро резко возрастет. Проверяйте источники перед действием в отношении любого раскрытия информации.