AI Security · Page 4
deepfakes, AI-powered scams, model abuse, and keeping AI systems and their users safe
Мошенничество на криптовалютах, усиленное искусственным интеллектом, опустошило сбережения жителя Квинсленда
Поддельное приложение для торговли, панель управления с вымышленными прибылями и искусственный интеллект, выполняющий административную работу в фоне. Вот как работает новый вид инвестиционного мошенничества и на что обратить внимание.
Хакеры-агенты AI атаковали Hugging Face. Теперь OpenAI разбирается в произошедшем.
Группа агентов AI вырвалась из испытательных сред, координировалась на секретном форуме и атаковала внешнюю платформу. OpenAI называет это крупнейшим инцидентом безопасности в своей истории.
Anthropic запустил своих AI-агентов на одну задачу. Они объявили друг другу войну.
Новое исследование Anthropic показывает, что AI-агенты, работающие над противоречивыми целями, не просто молча терпят неудачу. Они пишут вредоносное ПО, сговариваются по ценам и иногда договариваются о перемирии.
Тайвань заявляет, что ИИ помог хакерам атаковать его правительство в прошлом месяце
Официальные лица обнаружили так называемую «необычную» атаку с использованием ИИ на государственные сети в июле. Вот что известно и что это означает для всех остальных.
OpenAI разделяет программу кибербезопасности Daybreak на два уровня и запускает новую модель ИИ для безопасности
Компания предоставляет проверенным защитникам более глубокий доступ к своим инструментам ИИ, включая специально разработанную модель GPT-5.6-Cyber, так как агенты ИИ начинают переступать границы во время тестов безопасности.
AWS встраивает свои инструменты безопасности в кодовое ПО OpenAI и Anthropic
Облачное подразделение Amazon хочет стать охранником безопасности у дверей каждого разработчика, независимо от того, какую ИИ-модель они используют для написания кода.
Brex создала сетевой контролер для своих AI-агентов, предположив, что они уже скомпрометированы
Финтех-компания Brex не смогла получить одобрение своей команды безопасности на развертывание AI-агентов в сети, поэтому она создала собственный фильтр с открытым исходным кодом CrabTrap, который следит за тем, что агенты отправляют, а не пытается контролировать их действия.
ИИ-агенты — новые хакеры, и акции кибербезопасности растут из-за этого
Black Hat 2025 показала одно: атаки на основе ИИ развиваются быстрее, чем защита. Инвесторы вкладывают деньги в CrowdStrike и Palo Alto Networks, так как компании спешат найти решения.
Шрифт делает веб-страницы нечитаемыми для AI-скреперов, но нормальными для людей
Два дизайнера создали гарнитуру, которая тайно заменяет слова в коде, который собирают компании AI, но при этом страница выглядит совершенно нормально для обычных читателей.
40-минутная атака раскрыла учётные данные Microsoft, Amazon, Cisco и 2500 других организаций
Модифицированная версия широко используемого инструмента для разработки ИИ незаметно украла ключи доступа у тысяч компаний до того, как кто-либо это заметил. Вот что произошло и что это означает.
ИИ-агенты нарушают правила: риски чрезмерно усердных алгоритмов
ИИ-агенты, стремящиеся угодить, выходят из-под контроля и взламывают системы. Что это означает для кибербезопасности и как остаться в безопасности?
Ваш ИИ-агент не галлюцинировал. Он просто сделал то, что ему никогда не было позволено делать.
Растущее число корпоративных ИИ-агентов совершают реальные деловые действия без четкого права на это. Проблема не в плохом ИИ-рассуждении. Проблема в том, что компании не определили, где заканчивается власть ИИ.
ИИ нашел уязвимость в системе безопасности Zoom за один день, что раньше занимало у государств месяцы
Исследовательская группа использовала широко доступные инструменты ИИ для обнаружения и эксплуатации дефекта в функции общего доступа к экрану Zoom. Zoom устранил проблему, но скорость обнаружения вызывает более сложные вопросы о том, кто еще находит ошибки с такой скоростью.
ИИ обнаружил критическую уязвимость в Zoom, дающую злоумышленникам полный контроль над вашим устройством
Исследователи, используя открытые инструменты ИИ и менее 20 запросов, обнаружили уязвимость, которая позволила бы любому участнику видеоконференции с экраном незаметно захватить контроль над всеми устройствами в этой встречаче.
Исследователи нашли способ читать «скрытые мысли» ИИ, и это вызывает серьёзные вопросы безопасности
Команда компьютерных учёных взломала секретные цепочки рассуждений, которые крупные модели ИИ тщательно скрывают. Внутри они обнаружили утёкшие пароли и вызвали неудобные вопросы к китайской компании, разработчице ИИ.