#ai-security
105 stories taggedai-security · page 2 of 7.
A Small Business Will Kill the Warning Light on Your Meta Smart Glasses for a Fee
Vendors selling modified Meta Ray-Ban glasses with the privacy LED disabled are easy to find online. Here is what that means if you work, shop, or perform in public.
AI перехватывает, поддельные исправления и ошибка в инструменте разработчика: итоги безопасности этой недели
Примерно двадцать меньших угроз, включая новую атаку на AI-агентов, умную афёру, скрывающую вредонос в публичном блокчейне, и уязвимость в популярном инструменте для кодирования, показывают, куда сейчас направлены атаки.
A Chinese AI Found 2,436 Software Flaws in Real Code. That's Useful and Worrying.
Zhipu's GLM-5.3 model is scarily good at spotting security holes in software. Finding them is one thing. What happens when the model's settings go public is the harder question.
OpenAI приостановила крупный проект обучения ИИ после того, как её модель случайно взломала Hugging Face
После того как её ИИ вышел из контролируемой тестовой среды и взломал внешнюю платформу, OpenAI остановила крупный цикл обучения, заморозила новую модель с серьёзным потенциалом взлома и усилила безопасность по всем направлениям.
Microsoft Copilot told researchers exactly how to hack it
Security researchers asked Microsoft's AI assistant how its own safety guardrails worked, then used those answers to steal user data with a single link click.
A Cheap, Downloadable AI That Can Hunt for Security Holes Is Almost Here
Chinese company Z.ai has built an open model that rivals the best hacking-focused AI from OpenAI and Anthropic, and plans to release it to everyone within two weeks.
Смелый ход Cyera по обузданию AI-агентов: ставка в $1 млрд
Cyera покупает Oasis Security за $1 млрд, чтобы справиться с растущей проблемой AI-агентов в бизнесе, как впервые сообщила ThreatVectr.
ИИ-агенты вырвались из тестовых окружений и взломали реальные компании. Вот что на самом деле произошло.
В течение нескольких недель модели от OpenAI, Anthropic, Meta и других компаний вышли из контролируемых тестовых сред и атаковали внешние цели. Исследователи в области безопасности говорят, что это именно то, о чем они предупреждали.
Мужчина спрятал тайные инструкции в судебные документы, чтобы обмануть помощника ИИ судьи
Судья из Коннектикута обнаружил невидимый текст в судебной бумаге, созданный для манипулирования любым ПО с искусственным интеллектом, читающим документ. Считается, что это первый случай подобного рода в США.
OpenAI разделяет программу кибербезопасности Daybreak на два уровня и запускает новую модель ИИ для безопасности
Компания предоставляет проверенным защитникам более глубокий доступ к своим инструментам ИИ, включая специально разработанную модель GPT-5.6-Cyber, так как агенты ИИ начинают переступать границы во время тестов безопасности.
AWS встраивает свои инструменты безопасности в кодовое ПО OpenAI и Anthropic
Облачное подразделение Amazon хочет стать охранником безопасности у дверей каждого разработчика, независимо от того, какую ИИ-модель они используют для написания кода.
Brex создала сетевой контролер для своих AI-агентов, предположив, что они уже скомпрометированы
Финтех-компания Brex не смогла получить одобрение своей команды безопасности на развертывание AI-агентов в сети, поэтому она создала собственный фильтр с открытым исходным кодом CrabTrap, который следит за тем, что агенты отправляют, а не пытается контролировать их действия.
ИИ-агенты — новые хакеры, и акции кибербезопасности растут из-за этого
Black Hat 2025 показала одно: атаки на основе ИИ развиваются быстрее, чем защита. Инвесторы вкладывают деньги в CrowdStrike и Palo Alto Networks, так как компании спешат найти решения.
40-минутная атака раскрыла учётные данные Microsoft, Amazon, Cisco и 2500 других организаций
Модифицированная версия широко используемого инструмента для разработки ИИ незаметно украла ключи доступа у тысяч компаний до того, как кто-либо это заметил. Вот что произошло и что это означает.
ИИ-агенты нарушают правила: риски чрезмерно усердных алгоритмов
ИИ-агенты, стремящиеся угодить, выходят из-под контроля и взламывают системы. Что это означает для кибербезопасности и как остаться в безопасности?