AI Security · Page 12
deepfakes, AI-powered scams, model abuse, and keeping AI systems and their users safe
TikTok тестирует инструмент для поиска поддельных AI-версий вас
Новая дополнительная функция позволяет создателям сканировать TikTok в поиске дипфейков, использующих их лицо или голос без разрешения. Тестирование начинается с небольшой группы пользователей в США.
Patreon начинает блокировать AI-скреперы вместо вежливых просьб
Платформа для авторов объединилась с Cloudflare, чтобы активно блокировать ботов, собирающих работы авторов для обучения моделей AI, отказавшись от старого подхода на основе добровольного соответствия.
Умные очки AI могут записывать незнакомцев без предупреждения. Вот что вам нужно знать.
Очки Meta с поддержкой AI уже видны на лицах людей в общественных местах. Критики говорят, что риски для конфиденциальности сильнее всего сказываются на женщинах, и право не поспевает за технологией.
Одежда, которая запутывает камеры: мода, рожденная из страхов перед распознаванием лиц
Новое поколение дизайнеров вплетает в куртки и топы паттерны, разработанные для того, чтобы сбить с толку программное обеспечение для распознавания лиц. Может ли антинаблюдательная мода стать мейнстримом?
Почему безопасность ИИ требует валидации в реальных условиях
ИИ-агенты выходят за рамки консультативных ролей в кибербезопасности. Pentera выступает за решения, основанные на фактических данных, а не на теоретических рисках.
Брешь в безопасности расширения Claude для Chrome пережила восемь попыток исправления и может раскрыть вашу Gmail
Ошибка, названная ClaudeBleed, позволяет другим расширениям браузера незаметно читать электронные письма и события календаря, которые обрабатывала Claude. Спустя восемь патчей проблема все еще существует.
1Password позволяет Claude входить в ваши аккаунты, никогда не видя ваши пароли
Новая интеграция позволяет ИИ-ассистенту Anthropic выполнять задачи, требующие ваших учетных данных, при этом уровень безопасности скрывает ваши реальные учетные данные от ИИ.
Бот на базе ИИ взломал Hugging Face. Hugging Face использовала ИИ, чтобы его поймать.
Платформа для исследований ИИ раскрыла реальную атаку, проведённую полностью автономным программным обеспечением, и инцидент обнажил слепое пятно, о котором должна знать каждая компания, полагающаяся на инструменты безопасности на базе ИИ.
Google DeepMind и Isomorphic Labs открывают свой плейбук биоустойчивости
Две лаборатории ИИ говорят, что будут делиться моделями с проверенными партнерами для ускорения разработки вакцин и раннего выявления вспышек, одновременно добавляя защиты от неправильного использования.
Forg365: Сервис за $400 в месяц, перехватывающий рабочую почту
Forg365 — фишинг-набор, продаваемый в Telegram, использует ИИ для подмены знакомых бизнес-инструментов и кража доступа к аккаунтам Microsoft 365.
Microsoft использует AI-агентов для математического доказательства отсутствия ошибок в коде шифрования
Команда, стоящая за криптографической библиотекой Windows и Azure, делает что-то необычное: не просто тестирует код, но доказывает его корректность для каждого возможного входа, используя формальные математические доказательства, частично написанные AI.
Взлом Suno раскрыл миллионы песен, скопированных с YouTube Music, Deezer и других платформ
Утечка данных в сервис генератора AI-музыки выявила внутренний код, показывающий, что компания загрузила более двух миллионов клипов со стриминговых платформ, и некоторые клиенты утверждают, что их никогда не уведомляли о доступе к их данным.
xAI подает в суд на мужчину, который якобы использовал Grok для создания материалов с детьми
Компания AI компании Элона Маска подала первый иск против пользователя из-за материалов сексуального характера, созданных искусственным интеллектом, после того как житель Южной Каролины уже был арестован по восьми уголовным обвинениям.
Перед отправкой платежа: знает ли ваш AI-помощник, насколько он уверен?
Apple ML Research утверждает, что AI-агентам нужна встроенная кнопка паузы перед выполнением необратимых действий. Вот почему это важно для всех, чей банк, приложение или рабочее место теперь работают на AI.
OpenAI создала ИИ, который взламывает собственные модели, чтобы сделать их безопаснее
GPT-Red — это система автоматизированного красного тестирования, которая атакует собственные чат-боты OpenAI, чтобы выявить уязвимости раньше, чем это сделают реальные злоумышленники. Она уже обнаружила трюк, который пропустили люди-тестировщики.