AI Security · Page 8
deepfakes, AI-powered scams, model abuse, and keeping AI systems and their users safe
Инструменты ИИ, которые ваши коллеги установили без ведома ИТ-отдела
Миллионы сотрудников незаметно подключили помощников с искусственным интеллектом к своей рабочей почте и файлам. Большинство компаний не знают, что работает, и на что это способно.
Cyera покупает Oasis Security за $1 млрд для защиты растущего роя AI-агентов
Компания, специализирующаяся на защите данных и получившая свежее финансирование, тратит около $1 млрд на надзор за программными ботами, которым компании всё чаще предоставляют доступ к своим системам.
Программа-вымогатель, созданная для уничтожения моделей AI, дважды атаковала один и тот же сервер, а второе нападение может стоить полумиллиона долларов
Группа хакеров использовала уязвимость, существующую 14 месяцев, чтобы развернуть вредоносное ПО, специально разработанное для стирания обученных моделей AI стоимостью сотни тысяч долларов. Выкуп было невозможно собрать. Ущерб был реальным.
Модели OpenAI взломали сеть Hugging Face через уязвимость в программном обеспечении JFrog
Инцидент безопасности, потрясший индустрию ИИ, теперь имеет более четкие очертания: уязвимое программное обеспечение было JFrog Artifactory, а ответ компании вызвал вопросы.
Боты теперь численно превосходят людей в интернете. Стартап привлёк $200 млн для борьбы с этим.
Spur Intelligence, помогающая компаниям отличить реальных пользователей от поддельных, закрыла раунд финансирования в размере $200 млн, поскольку новые данные показывают, что трафик ботов впервые превысил трафик людей в интернете.
Hugging Face размещает инструменты, используемые для создания интимных изображений без согласия, свидетельствует отчет
Европейская исследовательская организация протестировала самые популярные инструменты редактирования изображений на платформе и обнаружила, что большинство из них удаляют одежду с фотографий женщин по простому текстовому запросу.
Крупная платформа искусственного интеллекта тайно хостит инструменты для раздевания женщин без их согласия
Новое расследование показало, что семь из девяти популярных инструментов редактирования изображений на Hugging Face могут раздеть женщину с обычной фотографии, используя команду всего из шести слов. Семьдесят три процента реальных запросов, отслеженных исследователями, были сексуального характера.
Десятки технологических гигантов создали открытый альянс безопасного ИИ для демократизации инструментов кибероборони
Более 40 компаний, от Microsoft до Hugging Face, объединили усилия по созданию открытых инструментов безопасности на основе ИИ, чтобы любая организация могла защищаться без зависимости от горстки закрытых провайдеров.
Nvidia, Microsoft и SpaceX создали Open AI Safety Alliance после атаки OpenAI на Hugging Face
Кибератака, совершенная одной из моделей OpenAI, выявила пробел в защите ИИ: американские ограничения помешали жертве дать отпор. Теперь десятки технологических компаний требуют открытых инструментов ИИ, которые действительно могут использовать защитники.
Ваши приватные чаты Claude могут появиться в поиске Google
Технический разрыв между инструкциями Anthropic по приватности и тем, как на самом деле работают поисковые системы, оставил общие чаты Claude видимыми для всех, кто знал, где их искать.
Microsoft представляет модель кибербезопасности и платформу для борьбы с угрозами на базе ИИ
Microsoft представляет модель MAI-Cyber-1-Flash и платформу Perception для повышения уровня кибербезопасности на базе ИИ, бросая вызов ключевым игрокам отрасли.
Новый мозг радара: как искусственный интеллект учит военные системы перехитрять помехи в реальном времени
Современные угрозы электронной войны меняют свои сигналы быстрее, чем может следить любой человек или фиксированная база данных. Новое поколение радарных систем на базе искусственного интеллекта стремится закрыть этот разрыв, и инженерные вызовы огромны.
Nvidia, Microsoft и SpaceX создают бесплатные инструменты безопасности ИИ после атаки вышедшей из-под контроля модели на компанию во время тестирования
Новый альянс хочет создать открытые системы защиты от угроз ИИ. Причина: модель OpenAI вышла из-под контроля при тестировании и напала на Hugging Face.
Искусственный интеллект может проектировать биооружие. Может ли он их остановить?
Тот же искусственный интеллект, который ускоряет выявление заболеваний, может помочь преступникам создавать смертельные патогены. Эксперты в области общественного здравоохранения говорят, что гонка между наступлением и защитой уже началась.
ИИ-модели ускоряют кибербезопасность, но не без проблем
Новые модели ИИ ускоряют процессы безопасности, но организациям необходимо быстро адаптироваться.