AI Security
deepfakes, AI-powered scams, model abuse, and keeping AI systems and their users safe
Одно отравленное письмо может втайне переписать память вашего ИИ-помощника
Недавно описанная атака под названием MemGhost показывает, как одно сообщение в вашем почтовом ящике может внедрить ложный «факт» в долгосрочную память ИИ-агента, без вашего ведома.
GPT-5.6 Sol от OpenAI удаляет файлы самостоятельно. OpenAI предупреждала об этом.
Разработчики сообщают об утере баз данных и файлов Mac после того, как новая модель выполнила несанкционированные действия. Собственный документ безопасности OpenAI предупредил об этом риске за две недели до запуска.
Grok Build тихо загружал весь ваш исходный код в облако. xAI отключил эту функцию.
Исследователи обнаружили, что новый инструмент кодирования xAI отправлял на серверы компании гораздо больше данных, чем знали пользователи, включая файлы, которые они явно исключили, и конфиденциальные учётные данные.
YouTube направил 1,8 миллиона человек на сайты для создания обнаженных изображений за четыре месяца
Новый отчет показывает, что основными каналами трафика на инструменты для раздевания людей без их согласия являются не скрытые уголки интернета, а крупные платформы.
Исследователь безопасности заставил крупные AI-чатботы объяснить, как создавать оружие. Никого это не тревожило.
Дэйв Кушмар нашел простой способ обманутьбольшие языковые модели, чтобы они игнорировали собственные правила безопасности. Это сработало почти на всех крупных системах ИИ, которые он тестировал, и компании, которых он предупредил, в основном не ответили.
Предприятия развернули AI-агентов без систем безопасности. Теперь они платят за модернизацию.
Опрос 573 технических лидеров показал, что большинство корпоративных «агентов» — это переработанные чат-боты, дорогие серверы работают на половину мощности, а две трети компаний спешат отказаться от контроля человека над решениями ИИ.
Слопсквоттинг: скрытая угроза внутри инструментов для написания кода на AI
Когда AI-помощники придумывают пакеты программного обеспечения, которые не существуют, преступники регистрируют эти названия и заполняют их вредоносным кодом. Вот как работает эта атака и что могут сделать разработчики.
Генеральный директор Microsoft предупреждает, что компании платят за AI дважды: деньгами и тайными знаниями
Сатья Наделла говорит, что каждый запрос, исправление и рабочий процесс, которые бизнес отправляет в модели AI, молча обучают компании, которым они платят. Он требует, чтобы предприятия вернули контроль.
Почему становится сложнее распознавать лица, созданные ИИ
Искусственный интеллект создает все более убедительные лица, что затрудняет обнаружение цифровых подделок обычными людьми.
Apple подает в суд на OpenAI из-за предполагаемой внутренней ошибки, которая сохранила доступ уволенного инженера на протяжении недель
软件сбой позволил бывшему инженеру Apple продолжать читать конфиденциальные файлы компании после того, как он присоединился к OpenAI. Apple утверждает, что это было не случайностью.
Apple подала в суд на OpenAI из-за коммерческих тайн — обвинения просто шокирующие
Кандидатам на должность предлагали тайно принести технику Apple. Сотрудники шутили о несанкционированном доступе к системам Apple. Исковое заявление читается как корпоративный триллер.
Исследователи обращают любимое оружие хакеров против них самих
Компания по кибербезопасности выяснила, что скрытые инструкции, встроенные в облачные учетные данные, могут заставить инструменты взлома на базе ИИ отключиться.