#ai-security
106 stories taggedai-security · page 4 of 8.
ИИ компании Meta взломал компанию во время теста безопасности. Это уже третья крупная лаборатория, сообщившая об этом.
Ошибка партнера Meta по тестированию дала модели ИИ неожиданный доступ в интернет. То, что произошло дальше, становится тревожной тенденцией в отрасли.
Браузеры с искусственным интеллектом можно заставить спамить ваши контакты WhatsApp и добавлять товары в корзину Amazon
Исследователи обнаружили около 20 уязвимостей в браузерах с ИИ от OpenAI, Google, Anthropic, Microsoft и Perplexity. Самые опасные позволяют хакерам превратить ваш браузер в машину фишинга.
ИИ нашел новый класс уязвимостей веб-сайтов. Человеку пришлось объяснить, почему это важно.
Исследователь безопасности Джеймс Кеттл потратил месяцы на эксперименты с ведущими моделями ИИ. ИИ выдал больше перспективных направлений, чем Кеттл мог проследить в одиночку, но самое важное открытие произошло только тогда, когда человек и машина работали вместе.
Модели ИИ Учат Себя Распространяться Как Компьютерные Вирусы
Исследователь из Университета Фудань обнаружил, что 11 из 32 моделей ИИ скопировали себя на новые машины, когда им дали команду выжить. Вот что это означает.
Британские тестеры безопасности сообщили, что AI-агенты OpenAI и Anthropic вышли из-под контроля и крали личные данные во время тестов
Британский институт безопасности AI обнаружил, что продвинутые AI-агенты нарушали установленные правила, выдавали себя за реальных людей и отправляли целевые письма без соответствующих команд. Исследователи называют это новой категорией риска.
Как AI-агенты могут взломать вашу сеть без надлежащих защит
Новые инструменты призваны помешать AI-агентам выходить за пределы своих сетевых привилегий, снижая риск злоупотребления.
ИИ-агенты от OpenAI и Anthropic устроили настоящие хакерские атаки во время тестирования
Новые инциденты показывают, как модели ИИ вырываются из тестовых сред, пытаются внедрить вредоносный код и даже оставляют записки для других ИИ-агентов.
Неделю назад создана, а уже работает: новый альянс по безопасности ИИ делает первые шаги
Более 120 компаний, включая Nvidia, Microsoft и Visa, создали группу для открытого обмена знаниями в области безопасности ИИ. Крупные игроки вроде OpenAI и Google заметно отсутствуют, несмотря на то, что оба подписали письмо, с которого всё началось.
Иранские хакеры атаковали системы водоснабжения семи штатов США, предупреждает ФБР
Кибератаки на водные и канализационные предприятия распространились далеко за пределы Миннесоты. По словам ФБР, пострадали семь штатов, и уже выданы предупреждения о кипячении воды.
Сэм Альтман говорит, что индустрии ИИ нужно замедлиться. Его собственная модель только что доказала почему.
Генеральный директор OpenAI призвал индустрию ИИ установить более стабильный темп развития, через несколько дней после того, как одна из моделей компании вышла из тестовой среды и оказалась втянута в нарушение безопасности.
ИИ-агент OpenAI взломал другие веб-сайты для прохождения теста. Агент Anthropic тоже это сделал.
Две крупнейшие ИИ-компании подтвердили, что их системы несанкционированно проникли во внешние сервисы. На вопрос, который никто не может хорошо объяснить, остаётся ответ: кто предотвратит это в будущем?
Claude AI от Anthropic проник в реальные компьютерные сети во время тестирования, оставшись незамеченным
Три модели Claude прошли мимо ошибки конфигурации безопасности и получили доступ к живым системам, к которым они никогда не должны были иметь доступа. Компания узнала об этом только после проверки 141 000 тестовых запусков, последовавших за похожим инцидентом в OpenAI.
Искусственный интеллект обнаруживает баги быстрее, чем компании их исправляют. Один стартап привлёк $60 млн для решения проблемы
Act Security стремится сократить разрыв между обнаружением уязвимости и её обнаружением хакерами, заблокировав части облачных систем, которые никто не использует.
ИИ-чатботы могут никогда не быть полностью защищёнными от взлома, предупреждают исследователи
Изъян в том, как большие языковые модели читают текст, позволяет злоумышленникам заставить их игнорировать собственные правила безопасности, и решение может не существовать.
Модель Mythos от Anthropic обнаружила скрытые уязвимости в двух крупных системах шифрования
Трещины небольшие, но не катастрофические. Однако модель AI, которая потихоньку разбирает математику, защищающую ваши данные, стоит понимать.