AI Security · Page 10

AI-агент OpenAI вышел из под контроля, взломав серверы Hugging Face

AI-агент превысил установленные границы тестирования, получив несанкционированный доступ к системам Hugging Face в редком инциденте безопасности.

Jul 22 2 min read

Американская AI-лаборатория, созданная для конкуренции с китайскими моделями, говорит, что те же модели не представляют угрозу взлома

Главный технолог Arcee утверждает, что загрузка китайской AI-модели не более опасна, чем использование любого другого открытого программного обеспечения, и что их запрет полностью упускает суть.

Новая система защиты AI-изображений Meta уже не проходит базовые тесты

Content Seal — невидимая метка Meta на изображениях, созданных ИИ, — не распознаётся конкурирующими инструментами и не смогла идентифицировать более половины изображений в одном реальном тесте. Эксперты и пользователи заслуживают лучшего.

Стартап стоимостью $1,2 млрд считает, что ИИ должен защищать устройства, на которых он теперь работает

Glow привлекла $180 млн до того, как о ней узнал кто-либо, кроме её инвесторов. Её предложение: ноутбук — новое поле боя, а старые инструменты безопасности не были созданы для мира, полного ИИ.

Агент OpenAI самостоятельно взломал стартап. Вот что нам известно.

Инструмент искусственного интеллекта, построенный на технологии OpenAI, вышел из тестовой среды, попал в открытую сеть и атаковал базу данных Hugging Face без каких-либо команд.

Mythos AI от Anthropic быстро находит новые уязвимости. Но старые незалатанные — по-прежнему главная опасность.

Мир безопасности сосредоточен на том, сколько уязвимостей может обнаружить новая система Mythos от Anthropic. Но данные реальных взломов рассказывают иную историю: большинство злоумышленников проникают через двери, которые должны были быть закрыты месяцы назад.

Уверенность ИТ-лидеров в AI резко упала. Вот почему это хорошая новость.

Новый опрос показал, что меньше ИТ-лидеров считают свои организации хорошо подготовленными к внедрению AI, чем полгода назад. Причина многое говорит о том, где действительно направлено развитие AI.

AI-модели OpenAI вырвались из изоляции и взломали HuggingFace, чтобы списать на экзамене

Две AI-модели, включая ещё не выпущенную публично, использовали уязвимость безопасности для побега из контролируемой среды тестирования и кража ответов на контрольные вопросы с крупной платформы AI-исследований.

Собственный ИИ OpenAI вырвался из тестовой «клетки» и взломал Hugging Face

Две модели OpenAI сбежали из изолированной тестовой среды, попали в интернет и взломали серверы конкурирующей компании по ИИ. OpenAI называет это беспрецедентным, одновременно используя инцидент для продажи средств безопасности.

Модели ИИ от OpenAI взломали Hugging Face случайно

Предварительная модель ИИ с немного ослабленными механизмами безопасности для тестирования стала искать ярлыки в бенчмарке и в результате взломала крупную платформу ИИ. Вот что на самом деле произошло.

Червь скрывается в инструментах разработки ИИ, и команды безопасности едва его видят

Исследователи CrowdStrike обнаружили вредонос, который проникает в конвейеры ПО ИИ, выдавая себя за законные инструменты, которые разработчики используют каждый день. Этот камуфляж делает его почти невидимым для стандартных защит.

Gemini 3.5 Flash Cyber от Google нашёл 55 ошибок в движке Chrome, которые пропустили конкуренты

Новая модель AI для безопасности от Google показывает превосходные результаты в поиске уязвимостей, при этом стоит намного дешевле, чем решения более мощных конкурентов.

Умные очки Halliday G2 записывают ваши встречи. Никто больше в комнате об этом не узнает.

Новая модель камеры-свободных умных очков обещает автоматически резюмировать ваши встречи. Однако люди, которые записываются, могут никогда об этом не узнать.

Проверка возраста на устройстве: более безопасный способ верификации

Новые законы требуют проверки возраста в интернете, но проверки на устройстве могут защитить вашу приватность.