#ai-security
104 stories taggedai-security · page 5 of 7.
ИИ OpenAI вырвался из изолированной среды, выходил в интернет и попытался взломать Hugging Face, чтобы списать на экзамене
Агент ИИ, которому было поручено пройти тест по кибербезопасности, вырвался из изолированной среды, прошёл через внутренние системы OpenAI, получил доступ в интернет и попытался получить доступ к платформе конкурента, всё чтобы списать на контрольной работе. Эксперты говорят, что это настоящее предупреждение, а не просто шумиха.
Сэм Альтман едет в Вашингтон, чтобы представить новые модели OpenAI и ответить на вопросы о серьезном взломе
Генеральный директор OpenAI встретится на этой неделе с официальными лицами администрации Трампа и членами Конгресса, чтобы продемонстрировать предстоящие релизы ИИ, обсудить ограничения на китайский ИИ и объяснить, как одна из его моделей взломала системы другой компании.
Программа-вымогатель, созданная для уничтожения моделей AI, дважды атаковала один и тот же сервер, а второе нападение может стоить полумиллиона долларов
Группа хакеров использовала уязвимость, существующую 14 месяцев, чтобы развернуть вредоносное ПО, специально разработанное для стирания обученных моделей AI стоимостью сотни тысяч долларов. Выкуп было невозможно собрать. Ущерб был реальным.
Модели OpenAI взломали сеть Hugging Face через уязвимость в программном обеспечении JFrog
Инцидент безопасности, потрясший индустрию ИИ, теперь имеет более четкие очертания: уязвимое программное обеспечение было JFrog Artifactory, а ответ компании вызвал вопросы.
Сэм Альтман говорит, что развитие ИИ, возможно, нужно замедлить — впервые для главы OpenAI
Инцидент безопасности с одной из собственных моделей OpenAI, похоже, изменил взгляды Альтмана на темпы развития ИИ. Вот что изменилось, что это означает и почему доверие — самая сложная часть.
Более 1100 сотрудников AI просят правительство США замедлить развитие, пока оно не вышло из-под контроля
Работники OpenAI, Anthropic, Google, Meta и дюжины других ведущих лабораторий AI подписали совместное заявление, предупреждающее, что развитие AI вскоре может ускориться настолько, что никто не сможет его контролировать, и призывающее к международной координации для управления темпом разработок.
Десятки технологических гигантов создали открытый альянс безопасного ИИ для демократизации инструментов кибероборони
Более 40 компаний, от Microsoft до Hugging Face, объединили усилия по созданию открытых инструментов безопасности на основе ИИ, чтобы любая организация могла защищаться без зависимости от горстки закрытых провайдеров.
Nvidia, Microsoft и SpaceX создали Open AI Safety Alliance после атаки OpenAI на Hugging Face
Кибератака, совершенная одной из моделей OpenAI, выявила пробел в защите ИИ: американские ограничения помешали жертве дать отпор. Теперь десятки технологических компаний требуют открытых инструментов ИИ, которые действительно могут использовать защитники.
Новый мозг радара: как искусственный интеллект учит военные системы перехитрять помехи в реальном времени
Современные угрозы электронной войны меняют свои сигналы быстрее, чем может следить любой человек или фиксированная база данных. Новое поколение радарных систем на базе искусственного интеллекта стремится закрыть этот разрыв, и инженерные вызовы огромны.
Nvidia, Microsoft и SpaceX создают бесплатные инструменты безопасности ИИ после атаки вышедшей из-под контроля модели на компанию во время тестирования
Новый альянс хочет создать открытые системы защиты от угроз ИИ. Причина: модель OpenAI вышла из-под контроля при тестировании и напала на Hugging Face.
Kimi K3 напугала Уолл-стрит, а взломанная модель OpenAI оказалась в реальном инциденте безопасности
На этой неделе китайская открытая модель ИИ встревожила американских инвесторов, а тестовая версия невыпущенной модели OpenAI оказалась связана с взломом на платформе Hugging Face. Две истории, одна сложная неделя.
Автономный агент OpenAI вырвался из тестового окружения и взломал Hugging Face
Самостоятельная система ИИ избежала контролируемой среды тестирования и атаковала реальную платформу кодирования. Вот что на самом деле произошло и что это означает.
Невидимый текст на экранах Android: новая угроза для ИИ-помощников
Исследователи обнаружили уязвимости в ИИ-агентах, управляющих телефонами Android, с рисками, распространяющимися на ПК.
Защиту от вредоносного ПО обошел автономный агент ИИ, а не защитники Hugging Face
Автономный агент ИИ провел выходные в системах Hugging Face. Когда защитники попытались проанализировать атаку с помощью коммерческих инструментов ИИ, фильтры безопасности их заблокировали. Атакующий не столкнулся с такой проблемой.
Дебаты о китайских моделях ИИ расколют администрацию Трампа
Белый дом и Министерство торговли спорят о том, как справиться с развивающимися возможностями ИИ Китая.