#ai-security
105 stories taggedai-security · page 7 of 7.
Почему безопасность ИИ требует валидации в реальных условиях
ИИ-агенты выходят за рамки консультативных ролей в кибербезопасности. Pentera выступает за решения, основанные на фактических данных, а не на теоретических рисках.
Брешь в безопасности расширения Claude для Chrome пережила восемь попыток исправления и может раскрыть вашу Gmail
Ошибка, названная ClaudeBleed, позволяет другим расширениям браузера незаметно читать электронные письма и события календаря, которые обрабатывала Claude. Спустя восемь патчей проблема все еще существует.
Бот на базе ИИ взломал Hugging Face. Hugging Face использовала ИИ, чтобы его поймать.
Платформа для исследований ИИ раскрыла реальную атаку, проведённую полностью автономным программным обеспечением, и инцидент обнажил слепое пятно, о котором должна знать каждая компания, полагающаяся на инструменты безопасности на базе ИИ.
Forg365: Сервис за $400 в месяц, перехватывающий рабочую почту
Forg365 — фишинг-набор, продаваемый в Telegram, использует ИИ для подмены знакомых бизнес-инструментов и кража доступа к аккаунтам Microsoft 365.
OpenAI создала ИИ, который взламывает собственные модели, чтобы сделать их безопаснее
GPT-Red — это система автоматизированного красного тестирования, которая атакует собственные чат-боты OpenAI, чтобы выявить уязвимости раньше, чем это сделают реальные злоумышленники. Она уже обнаружила трюк, который пропустили люди-тестировщики.
Suno взломана: утечка раскрывает, как AI-инструмент для создания музыки мог скачать миллионы песен
Хакер проник в системы Suno в ноябре 2025 года, получил доступ к данным клиентов и нашел исходный код, который якобы показывает, что генератор AI-музыки загружал аудио с YouTube, Deezer и подкастов без разрешения.
Microsoft устранила рекордные 570 уязвимостей, заслуга в этом AI
Самое масштабное ежемесячное обновление безопасности компании включает два уязвимости, уже используемые хакерами. Инструменты AI объясняют столь высокое число и предполагают, что оно останется таким же высоким.
Одно отравленное письмо может втайне переписать память вашего ИИ-помощника
Недавно описанная атака под названием MemGhost показывает, как одно сообщение в вашем почтовом ящике может внедрить ложный «факт» в долгосрочную память ИИ-агента, без вашего ведома.
Исследователь безопасности заставил крупные AI-чатботы объяснить, как создавать оружие. Никого это не тревожило.
Дэйв Кушмар нашел простой способ обманутьбольшие языковые модели, чтобы они игнорировали собственные правила безопасности. Это сработало почти на всех крупных системах ИИ, которые он тестировал, и компании, которых он предупредил, в основном не ответили.
Предприятия развернули AI-агентов без систем безопасности. Теперь они платят за модернизацию.
Опрос 573 технических лидеров показал, что большинство корпоративных «агентов» — это переработанные чат-боты, дорогие серверы работают на половину мощности, а две трети компаний спешат отказаться от контроля человека над решениями ИИ.
Генеральный директор Microsoft предупреждает, что компании платят за AI дважды: деньгами и тайными знаниями
Сатья Наделла говорит, что каждый запрос, исправление и рабочий процесс, которые бизнес отправляет в модели AI, молча обучают компании, которым они платят. Он требует, чтобы предприятия вернули контроль.
Почему становится сложнее распознавать лица, созданные ИИ
Искусственный интеллект создает все более убедительные лица, что затрудняет обнаружение цифровых подделок обычными людьми.
Apple подает в суд на OpenAI из-за предполагаемой внутренней ошибки, которая сохранила доступ уволенного инженера на протяжении недель
软件сбой позволил бывшему инженеру Apple продолжать читать конфиденциальные файлы компании после того, как он присоединился к OpenAI. Apple утверждает, что это было не случайностью.
Apple подает в суд на OpenAI за предполагаемую кражу секретов оборудования и шпионские тактики на собеседованиях
В исковом заявлении на 41 странице утверждается, что OpenAI инструктировала увольняющихся сотрудников Apple обходить проверки безопасности, контрабандой вывозить конфиденциальные файлы и приносить прототипные детали на собеседования.
Исследователи обращают любимое оружие хакеров против них самих
Компания по кибербезопасности выяснила, что скрытые инструкции, встроенные в облачные учетные данные, могут заставить инструменты взлома на базе ИИ отключиться.