AI Security · Page 11
deepfakes, AI-powered scams, model abuse, and keeping AI systems and their users safe
Собственный ИИ OpenAI вырвался из тестовой «клетки» и взломал Hugging Face
Две модели OpenAI сбежали из изолированной тестовой среды, попали в интернет и взломали серверы конкурирующей компании по ИИ. OpenAI называет это беспрецедентным, одновременно используя инцидент для продажи средств безопасности.
Модели ИИ от OpenAI взломали Hugging Face случайно
Предварительная модель ИИ с немного ослабленными механизмами безопасности для тестирования стала искать ярлыки в бенчмарке и в результате взломала крупную платформу ИИ. Вот что на самом деле произошло.
Червь скрывается в инструментах разработки ИИ, и команды безопасности едва его видят
Исследователи CrowdStrike обнаружили вредонос, который проникает в конвейеры ПО ИИ, выдавая себя за законные инструменты, которые разработчики используют каждый день. Этот камуфляж делает его почти невидимым для стандартных защит.
Gemini 3.5 Flash Cyber от Google нашёл 55 ошибок в движке Chrome, которые пропустили конкуренты
Новая модель AI для безопасности от Google показывает превосходные результаты в поиске уязвимостей, при этом стоит намного дешевле, чем решения более мощных конкурентов.
Умные очки Halliday G2 записывают ваши встречи. Никто больше в комнате об этом не узнает.
Новая модель камеры-свободных умных очков обещает автоматически резюмировать ваши встречи. Однако люди, которые записываются, могут никогда об этом не узнать.
Проверка возраста на устройстве: более безопасный способ верификации
Новые законы требуют проверки возраста в интернете, но проверки на устройстве могут защитить вашу приватность.
Платформа ServiceNow AI скомпрометирована в результате эксплуатации критической уязвимости безопасности
Хакеры используют критическую ошибку в платформе ServiceNow AI, которая влияет на рабочие процессы крупных компаний. Немедленные действия рекомендуются для пользователей с самостоятельным размещением.
Claude Mythos от Anthropic обнаружил более 10 000 уязвимостей в системе безопасности, а затем был ограничен правительством США
Мощный инструмент безопасности ИИ тихо переформатирует то, как защитники ищут ошибки в программном обеспечении. Но его собственные создатели обеспокоены тем, кто еще его использует.
Поддельные снимки птиц наводняют форумы орнитологов, виноваты инструменты ИИ
Фотографии птиц, улучшенные ИИ, вводят в заблуждение сообщества любителей бёрдвотчинга, которые регистрируют виды, никогда не появлявшиеся в природе. Учёные, опирающиеся на эти данные, сталкиваются с проблемой.
Британия переписывает свой план действий в чрезвычайных ситуациях, и преступления на основе ИИ — часть причин
Национальные планы кризисного управления Великобритании не обновлялись с 2004 года. Волна рекордных температур и кибератаки с использованием ИИ вынудили правительство действовать.
ИИ находит баги за минуты. Доказать, что они реальны, может только человек.
Команды безопасности захлёбываются в сгенерированных ИИ отчётах об уязвимостях, которые выглядят убедительно, но рассыпаются при первой попытке их воспроизвести. Старое правило остаётся в силе: покажи работу или отступи.
Приложение для отслеживания менструального цикла может передавать ваши данные о здоровье незнакомцам
Новый аудит конфиденциальности выявил, что одно популярное приложение делится интимными данными о здоровье с рекламными компаниями еще до того, как вы введете хотя бы одно слово. Вот что выявил аудит и какое приложение действительно защищает ваши данные.
TikTok тестирует инструмент для поиска поддельных AI-версий вас
Новая дополнительная функция позволяет создателям сканировать TikTok в поиске дипфейков, использующих их лицо или голос без разрешения. Тестирование начинается с небольшой группы пользователей в США.
Patreon начинает блокировать AI-скреперы вместо вежливых просьб
Платформа для авторов объединилась с Cloudflare, чтобы активно блокировать ботов, собирающих работы авторов для обучения моделей AI, отказавшись от старого подхода на основе добровольного соответствия.
Умные очки AI могут записывать незнакомцев без предупреждения. Вот что вам нужно знать.
Очки Meta с поддержкой AI уже видны на лицах людей в общественных местах. Критики говорят, что риски для конфиденциальности сильнее всего сказываются на женщинах, и право не поспевает за технологией.