Meta затвердила та розміщувала оголошення з AI-генерованими зображеннями сексуального насильства над дітьми протягом дев'яти місяців

Ключові моменти

• Дослідники з Tech Transparency Project знайшли понад 50 платних оголошень, що містять матеріали сексуального насильства над дітьми, у власній публічній бібліотеці оголошень Meta з листопада 2024 по серпень 2025 року.
• Щонайменше одне оголошення досягло 2563 акаунтів у восьми європейських країнах, включаючи Великобританію, Францію та Німеччину.
• Автоматична система перевірки оголошень Meta затвердила оголошення перед їх розміщенням; деякі з'явилися знову після того, як Meta вже видалила їх ідентичні версії за порушення політики.
• Кілька оголошень посилалися на додаток MaskAI, який Apple згодом видалила з App Store.
• Meta заявляє, що видалила понад 36 мільйонів матеріалів сексуальної експлуатації дітей минулого року, але критики кажуть, що повторні затвердження свідчать про глибші недоліки в перевірці платних оголошень.

Протягом дев'яти місяців системи реклами Meta перевіряли, затверджували та збирали платежі за оголошення, які містили матеріали сексуального насильства над дітьми (CSAM) — зображення або відео, що показують сексуальне насильство над дітьми. Tech Transparency Project (TTP), незалежна організація-спостерігач, знайшла понад 50 таких оголошень у власній публічній бібліотеці прозорості оголошень Meta, пошуковій базі даних, яку Meta створила, щоб кожен міг бачити, які оголошення розміщуються на її платформах.

WIRED першим повідомив про ці результати.

Що саме показували оголошення?

Контент був явним та навмисним. У одному відео оголошенні використовувалася мініатюра дитини, додавався заголовок про «глибокі фантазії», а при натисканні відтворювалось дорослого сексуального відео перед тим, як вставити обличчя дитини в нього за допомогою AI. В іншому оголошенні, яке багато разів перепубліковувалося, показана маленька дівчинка в сексуальній позі з підписом «Я можу показати тобі більше».

Третій відео починався з кліпу дівчинки, яка наносила помаду на губи, а потім трансформувався в те, що дитина виконує статевий акт. Це були не прикордонні випадки.

«Ці оголошення не намагалися замаскувати зображення або приховати те, що вони рекламували», — сказала WIRED Кеті Пол, директор TTP. Вона наголосила, що це була платна реклама, контент, який Meta активно перевіряла та за який стягувала плату, а не дописи, завантажені звичайними користувачами, які проскочили.

Як системи Meta це пропустили?

Meta говорить, що всі оголошення проходять перевірку перед розміщенням, переважно за допомогою автоматичних інструментів — програмного забезпечення, яке перевіряє контент відповідно до правил компанії. Ці правила явно забороняють матеріали сексуальної експлуатації дітей та будь-які сексуально провокуючі зображення.

Автоматичний екран повторно дав збій. Деякі з оголошень, знайдені у другій партії, виявлені за кілька годин до публікації, були розміщені після того, як WIRED вперше звернулась до Meta щодо проблеми. Кілька активно досягали акаунтів в момент, коли дослідники їх помітили.

Гірше того, Пол каже, що деякі з перепубліковуваних оголошень були ідентичні тим, які Meta вже видалила за порушення політики. Якщо система могла позначити одну копію, то той факт, що дублікати продовжували розміщуватися, викликає серйозні питання про те, чи запускає процес видалення будь-яку більш широку блокаду.

Більшість оголошень походили від акаунтів Meta з кількома або без підписників. Де були визначені платні рекламодавці, вони були пов'язані з китайськими компаніями. Одне оголошення, на якому показана дівчинка в позі лежачи, вказувало рекламодавцем китайську фірму Meet Social, яка раніше була одним з авторизованих посередників Meta для реклами в Китаї, де власні платформи Meta заблоковані. Meet Social не відповіла на запити про коментарі.

Кілька оголошень спрямовували користувачів на додаток MaskAI, доступний у App Store Apple. Додаток нічого явного не показував у своєму списку магазину, але після відкриття він містив AI-генеровану порнографію та функцію підміни обличчя, яка дозволяла користувачам вставляти будь-яке завантажене фото в сексуальні зображення. Apple видалила MaskAI після того, як WIRED звернулась до компанії.

Що це означає для звичайних людей?

Якщо ви або ваші діти користуєтеся Facebook, Instagram, Messenger або Threads, платні оголошення у вашій стрічці проходять через ту саму автоматичну систему, яка затвердила ці оголошення. Бібліотека оголошень Meta показала, що оголошення досягли справжніх акаунтів у Франції, Німеччині, Ірландії, Італії, Нідерландах, Іспанії, Швеції та Великобританії. Цифри охоплення США не розкриваються в бібліотеці, тому загальна аудиторія невідома.

TTP повідомила свої результати безпосередньо до CyberTipline Національного центру пропалих та експлуатованих дітей, органу США, який обробляє звіти про матеріали сексуального насильства над дітьми онлайн. NCMEC не прокоментував конкретні звіти.

Відповідь Meta визнала невдачу виміреними термінами. «Сексуальна експлуатація — це жахливо, і ми активно працюємо, щоб залишити її поза нашою платформою», — сказав представник компанії, зазначивши, що компанія нещодавно запустила нову технологію виявлення AI для оголошень і видалила понад 36 мільйонів матеріалів сексуальної експлуатації дітей за останній рік. Компанія також сказала, що багато оголошень мали мінімальний охопленням і деякі були відключені до запиту WIRED.

Контрпункт Пол різкий: бібліотека оголошень Meta не має способу, щоб громадськість повідомила про оголошення, що порушує правила, як тільки воно припинило розміщуватися. Ви можете бачити доказ злочину; ви не можете його позначити.

Поширені запитання

Чи можу я сам повідомити про підозріле оголошення Meta?

Ви можете повідомити про оголошення, яке активно розміщується на Facebook або Instagram, натиснувши три точки на оголошенні та вибравши «Повідомити про оголошення». Публічна бібліотека оголошень Meta, де ви переглядаєте історичні оголошення, наразі не має вбудованого інструменту для повідомлення про оголошення, які більше не є активними.

Чи були висунуті будь-які звинувачення?

Ніяких кримінальних звинувачень або нормативних дій не було публічно оголошено в результаті цих конкретних оголошень. TTP повідомила матеріал до CyberTipline NCMEC, який може передати справи правоохоронцям, але NCMEC не прокоментував, які кроки вона вживає.

Чи зупинило видалення MaskAI компанією Apple завдавання збитків?

Видалення додатку з App Store зупиняє нові завантаження. Будь-хто, хто вже встановив MaskAI, все ще має його на своєму пристрої, якщо він його вручну не видалить.