Meta одобрила и размещала объявления с искусственно созданными изображениями сексуального насилия над детьми в течение девяти месяцев

Ключевые моменты

• Исследователи из Tech Transparency Project обнаружили более 50 платных объявлений, содержащих материалы о сексуальном насилии над детьми, в собственной библиотеке объявлений Meta между ноябрём 2024 и августом 2025 года.
• По крайней мере одно объявление достигло 2563 аккаунтов в восьми европейских странах, включая Великобританию, Францию и Германию.
• Автоматизированная система проверки объявлений Meta одобрила эти объявления перед их размещением; некоторые из них появились вновь после того, как Meta уже удалила идентичные версии за нарушение политики.
• Несколько объявлений ссылались на приложение MaskAI, которое Apple впоследствии удалила из App Store.
• Meta заявляет, что в прошлом году удалила более 36 миллионов материалов о сексуальной эксплуатации детей, но критики говорят, что повторные одобрения свидетельствуют о более глубоком отказе в проверке платных объявлений.

В течение девяти месяцев системы размещения объявлений Meta проверяли, одобряли и взимали плату за объявления, содержащие материалы о сексуальном насилии над детьми (CSAM) — изображения или видео, показывающие сексуальное насилие над детьми. Tech Transparency Project (TTP), независимая организация по надзору, обнаружила более 50 таких объявлений в собственной открытой библиотеке прозрачности объявлений Meta, доступной для поиска базе данных, созданной Meta, чтобы каждый мог увидеть, какие объявления размещаются на её платформах.

Об этих находках впервые сообщило издание WIRED.

Что именно показывали объявления?

Содержание было откровенным и намеренным. В одном видеообъявлении использовалась миниатюра ребёнка, добавлялась подпись о «глубоких фантазиях», и при нажатии на неё воспроизводился видеоматериал для взрослых перед тем, как вставить лицо ребёнка в него с помощью искусственного интеллекта. В другом многократно переиздаваемом объявлении показана маленькая девочка в сексуальной позе с подписью «Я могу показать тебе больше».

Третье видео начиналось с клипа девочки, наносящей блеск для губ, и переходило в изображение ребёнка, совершающего половой акт. Это были не пограничные случаи.

«Эти объявления не пытались скрыть изображения или замаскировать то, что они продвигали», — сказала WIRED Кэти Пол, директор TTP. Она подчеркнула, что это были платные объявления, контент, который Meta активно проверяла и взимала плату за размещение, а не посты, загруженные обычными пользователями, которые прошли сквозь фильтры.

Как системы Meta это пропустили?

Meta заявляет, что все объявления проходят проверку перед размещением, в основном с использованием автоматизированных инструментов — программного обеспечения, которое проверяет содержание в соответствии с правилами компании. Эти правила явно запрещают материалы о сексуальной эксплуатации детей и любые сексуально провокационные изображения.

Автоматизированная проверка не сработала много раз. Некоторые из объявлений из второй партии, обнаруженные за несколько часов до публикации, были размещены после того, как WIRED впервые связалась с Meta по этой проблеме. Несколько объявлений активно достигали аккаунтов в момент, когда исследователи их обнаружили.

Более того, Пол говорит, что некоторые переиздаваемые объявления были идентичны тем, которые Meta уже удалила за нарушение политики. Если система смогла отметить одну копию, то тот факт, что дубликаты продолжали работать, вызывает серьёзные вопросы о том, запускает ли процесс удаления какой-либо более широкий блок.

Большинство объявлений поступало с аккаунтов Meta, у которых было мало или вообще не было подписчиков. Где были идентифицированы платящие рекламодатели, они были связаны с китайскими компаниями. В одном объявлении, на котором была показана девочка в положении лёжа, рекламодатель был указан как китайская фирма Meet Social, ранее один из авторизованных торговцев объявлений Meta в Китае, где собственные платформы Meta заблокированы. Meet Social не ответила на запросы о комментариях.

Несколько объявлений направляли пользователей на приложение MaskAI, доступное в App Store компании Apple. Приложение не показывало ничего откровенного в своём листинге в магазине, но после открытия оно содержало созданную искусственным интеллектом порнографию и функцию подмены лица, которая позволяла пользователям поместить любую загруженную фотографию в сексуальное изображение. Apple удалила MaskAI после того, как WIRED связалась с компанией.

Что это означает для обычных людей?

Если вы или ваши дети используете Facebook, Instagram, Messenger или Threads, платные объявления в вашей ленте проходят через ту же автоматизированную систему, которая одобрила эти объявления. Библиотека объявлений Meta показала, что объявления достигали реальных аккаунтов во Франции, Германии, Ирландии, Италии, Нидерландах, Испании, Швеции и Соединённом Королевстве. Цифры охвата в США не раскрываются в библиотеке, поэтому общая аудитория неизвестна.

TTP сообщила о своих выводах непосредственно в CyberTipline Национального центра по поиску пропавших и эксплуатируемых детей, американское учреждение, обрабатывающее сообщения о материалах о сексуальном насилии над детьми в Интернете. NCMEC не прокомментировала конкретные отчёты.

Ответ Meta признал провал в сдержанных терминах. «Сексуальная эксплуатация — это ужас, и мы агрессивно работаем над тем, чтобы удалить её с нашей платформы», — сказал представитель компании, отметив, что компания недавно запустила новую технологию обнаружения искусственного интеллекта для объявлений и удалила более 36 миллионов материалов о эксплуатации детей за прошлый год. Компания также заявила, что многие из объявлений имели минимальный охват и некоторые были отключены до запроса WIRED.

Ответ Пол прямолинеен: библиотека объявлений Meta не позволяет общественности сообщать о нарушающем политику объявлении после его удаления. Вы можете увидеть доказательства преступления; вы не можете его пометить.

Часто задаваемые вопросы

Могу ли я сообщить о подозрительном объявлении Meta самостоятельно?

Вы можете сообщить об объявлении, которое активно размещается на Facebook или Instagram, нажав на три точки на объявлении и выбрав «Сообщить об объявлении». Библиотека открытых объявлений Meta, где вы просматриваете исторические объявления, в настоящее время не имеет встроенного инструмента для сообщения об объявлениях, которые больше не трансляются.

Были ли поданы какие-либо обвинения?

Никаких уголовных обвинений или нормативных действий в связи с этими конкретными объявлениями публично объявлено не было. TTP сообщила материал в CyberTipline NCMEC, который может направлять дела правоохранительным органам, но NCMEC не прокомментировала, какие меры она принимает.

Остановило ли удаление Apple MaskAI вред?

Удаление приложения из App Store прекращает новые загрузки. Любой, кто уже установил MaskAI, всё равно имеет его на своём устройстве, если не удалит его вручную.