Предприятия развернули AI-агентов без систем безопасности. Теперь они платят за модернизацию.

Ключевые моменты

• 86% предприятий, использующих собственные AI-чипы, сообщают, что эти чипы работают на 50% мощности или менее, согласно опросу июня 2025 года среди 573 технических руководителей.
• 54% компаний столкнулись с инцидентом безопасности AI-агента или близким случаем за последние 12 месяцев.
• 71% предприятий говорят, что четверть или менее их развернутых «агентов» могут выполнить многошаговую задачу без участия человека на каждом этапе.
• 34% уже позволяют AI-агентам напрямую вносить изменения в производственные системы без проверки человеком, и еще 33% переходят к такой же схеме.
• 69% компаний позволяют нескольким агентам использовать единые учетные данные, и эти компании сталкивались с инцидентами безопасности почти в два раза чаще, чем компании, этого не делающие.

Предприятия знали, что их системы безопасности ИИ не готовы. Они все равно развертывались.

Это главный вывод из опроса VentureBeat Research среди 573 технических лидеров компаний с численностью 100 и более сотрудников, опубликованного в этом месяце. Результаты показывают организации, которые поспешили развернуть AI-агентов (программное обеспечение, которое может выполнять многошаговые задачи самостоятельно, а не просто отвечать на один вопрос) и теперь спешно устанавливают защиты, которые они пропустили.

Счет уже приходит. Пятьдесят четыре процента компаний столкнулись с инцидентом безопасности ИИ или близким случаем, предотвращенным до реального ущерба, за последние 12 месяцев.

Что это означает для обычных работников и потребителей?

Это означает, что ИИ, принимающий решения в компаниях, где вы работаете или совершаете покупки, может работать с меньшим количеством проверок, чем предполагает большинство людей. Половина опрошенных предприятий развернула AI-агента, который прошел их собственные внутренние тесты, но вызвал ошибку, видимую клиентам, в реальном мире. Четверть наблюдала это более одного раза.

История с оборудованием не менее поразительна. Восемьдесят шесть процентов предприятий, использующих собственные GPU (специализированные чипы, выполняющие тяжелые вычисления, необходимые для ИИ), говорят, что эти чипы работают на 50% мощности или менее. Компании потратили значительные средства на создание инфраструктуры ИИ, и большая часть ее недоиспользуется. Однако 45% этих же компаний планируют оценить специализированного поставщика облачных услуг ИИ в течение следующих 12 месяцев, и примерно треть активно рассматривает чипы не от Nvidia.

Сам ярлык «агент» оказывается в основном маркетингом. Семьдесят один процент предприятий говорит, что четверть или менее их так называемых агентов может выполнить многошаговую задачу без участия человека на каждом этапе. Большинство — это одноразовые чат-боты с признаком «агент». Аналитики Gartner имеют слово для этого: «agentwashing».

Безопасность — это самый острый краткосрочный риск. Шестьдесят девять процентов компаний позволяют нескольким агентам использовать одни и те же учетные данные во время работы. Организации, которые это делали, столкнулись с инцидентами безопасности в 63,5% случаев, по сравнению с 40,9% в компаниях, где каждый агент имеет свою отдельную личность с ограниченным доступом.

Неправильные ответы также становятся растущей ответственностью. Пятьдесят семь процентов предприятий проследили уверенный, неправильный ответ агента до собственных отсутствующих или устаревших деловых данных, таких как устаревшее определение или отсутствующий документ.

Честный вывод здесь простой: измерьте то, что у вас есть, перед тем как покупать еще. Проверьте существующее использование чипов. Дайте каждому агенту свои собственные учетные данные. И прежде чем исключить человека из какого-либо этапа утверждения, проверьте, действительно ли ваши автоматические проверки ловят ошибки реального мира, а не только те, что в вашем внутреннем наборе тестов.