AI Security · Page 7
deepfakes, AI-powered scams, model abuse, and keeping AI systems and their users safe
Модель Mythos от Anthropic обнаружила скрытые уязвимости в двух крупных системах шифрования
Трещины небольшие, но не катастрофические. Однако модель AI, которая потихоньку разбирает математику, защищающую ваши данные, стоит понимать.
Цены, уязвимости в безопасности и должность, которой два года назад не существовало: что показывают на TechCrunch Disrupt 2026
AI Stage на TechCrunch Disrupt вернулся в октябре и решает вопросы, которые не дают спать основателям: как монетизировать AI-продукты, как их защитить и кто ими управляет.
Исследователи нашли сотни способов нарушить правила безопасности ИИ всего за $58
Некоммерческая организация по безопасности ИИ протестировала автоматизированный инструмент на семи ведущих моделях. Две потерпели крах. Стоимость заставить их нарушать правила? Всего $58.
ИИ Anthropic находит ошибки Microsoft быстрее, чем инженеры их исправляют
Новая модель Anthropic под названием Mythos обнаруживает уязвимости безопасности в программном обеспечении Microsoft с такой скоростью, что компания вынуждена срочно реагировать. Гонка за их устранением, пока их не найдут враждебные субъекты, идет полным ходом.
Вышедший из-под контроля AI-агент OpenAI атаковал несколько компаний, не только Hugging Face
Новые подробности от OpenAI показывают, что вышедший из-под контроля AI-агент взломал учетные записи на четырех отдельных онлайн-сервисах при попытке получить доступ к платформе AI Hugging Face, расширяя то, что эксперты называют серьезным инцидентом в области безопасности AI.
ИИ OpenAI вырвался из изолированной среды, выходил в интернет и попытался взломать Hugging Face, чтобы списать на экзамене
Агент ИИ, которому было поручено пройти тест по кибербезопасности, вырвался из изолированной среды, прошёл через внутренние системы OpenAI, получил доступ в интернет и попытался получить доступ к платформе конкурента, всё чтобы списать на контрольной работе. Эксперты говорят, что это настоящее предупреждение, а не просто шумиха.
Google заявила, что её инструменты помогли создать 100 миллиардов изображений AI. Водяной знак может их пометить, но может ли он предотвратить вред?
Объём создаваемого контента на основе AI поражает воображение. Инструмент водяного знака SynthID от Google может помечать этот контент, но учёные и журналисты по-прежнему спорят о том, достаточно ли одной метки.
Инструменты ИИ, которые ваши коллеги установили без ведома ИТ-отдела
Миллионы сотрудников незаметно подключили помощников с искусственным интеллектом к своей рабочей почте и файлам. Большинство компаний не знают, что работает, и на что это способно.
Cyera покупает Oasis Security за $1 млрд для защиты растущего роя AI-агентов
Компания, специализирующаяся на защите данных и получившая свежее финансирование, тратит около $1 млрд на надзор за программными ботами, которым компании всё чаще предоставляют доступ к своим системам.
Программа-вымогатель, созданная для уничтожения моделей AI, дважды атаковала один и тот же сервер, а второе нападение может стоить полумиллиона долларов
Группа хакеров использовала уязвимость, существующую 14 месяцев, чтобы развернуть вредоносное ПО, специально разработанное для стирания обученных моделей AI стоимостью сотни тысяч долларов. Выкуп было невозможно собрать. Ущерб был реальным.
Модели OpenAI взломали сеть Hugging Face через уязвимость в программном обеспечении JFrog
Инцидент безопасности, потрясший индустрию ИИ, теперь имеет более четкие очертания: уязвимое программное обеспечение было JFrog Artifactory, а ответ компании вызвал вопросы.
Боты теперь численно превосходят людей в интернете. Стартап привлёк $200 млн для борьбы с этим.
Spur Intelligence, помогающая компаниям отличить реальных пользователей от поддельных, закрыла раунд финансирования в размере $200 млн, поскольку новые данные показывают, что трафик ботов впервые превысил трафик людей в интернете.
Hugging Face размещает инструменты, используемые для создания интимных изображений без согласия, свидетельствует отчет
Европейская исследовательская организация протестировала самые популярные инструменты редактирования изображений на платформе и обнаружила, что большинство из них удаляют одежду с фотографий женщин по простому текстовому запросу.
Крупная платформа искусственного интеллекта тайно хостит инструменты для раздевания женщин без их согласия
Новое расследование показало, что семь из девяти популярных инструментов редактирования изображений на Hugging Face могут раздеть женщину с обычной фотографии, используя команду всего из шести слов. Семьдесят три процента реальных запросов, отслеженных исследователями, были сексуального характера.
Десятки технологических гигантов создали открытый альянс безопасного ИИ для демократизации инструментов кибероборони
Более 40 компаний, от Microsoft до Hugging Face, объединили усилия по созданию открытых инструментов безопасности на основе ИИ, чтобы любая организация могла защищаться без зависимости от горстки закрытых провайдеров.