Сан-Франциско наказав Apple та Google видалити AI-додатки для створення "оголених" зображень
Міський прокурор надіслав листи про припинення діяльності обом технічним гігантам через 13 додатків, які створюють фальшиві голі зображення реальних людей без їхної згоди.
Ключові моменти
- Прокурор міста Сан-Франциско Девід Чіу надіслав у четвер юридичні повідомлення Apple та Google з вимогою видалити 13 конкретних додатків зі своїх магазинів.
- До числа цільових додатків входять 8 з App Store Apple та 5 з Google Play Store, усі широко позиціоновані як інструменти для "підміни облич".
- Дослідники Корнельського та Джорджтаунського університетів виявили у травні 2025 року, що 70 відсотків протестованих ними додатків для підміни облич могли створювати оголені дипфейки без будь-яких захисних механізмів.
- Додатки, позначені Tech Transparency Project на початку 2025 року, були завантажені приблизно 480 мільйонів разів і заробили приблизно 120 мільйонів доларів у сумі.
- Google підтвердив, що видалив п'ять додатків Android, названих у листі; Apple до моменту публікації не прокоментував ситуацію.
Уявіть, що ви завантажуєте фотографію когось, кого ви знаєте, і за кілька секунд отримуєте назад фальшиве голе зображення цієї людини. Саме це роблять ці додатки. Не потрібні жодні технічні навички. Просто фотографія та пара натискань.
У четвер прокурор міста Сан-Франциско Девід Чіу надіслав листи про припинення діяльності, офіційні юридичні вимоги припинити певну поведінку, Apple та Google. Він вимагає від обох компаній негайно видалити 13 додатків зі своїх магазинів. Додатки позиціонують себе як інструменти для підміни облич, але після відкриття дозволяють користувачам створювати штучно генеровані інтимні зображення без згоди, які є поддільними сексуальними зображеннями реальних людей, створеними без їхнього знання або дозволу.
Офіс Чіу говорить, що Apple та Google, ймовірно, "заробили мільйони доларів у комісіях" від цих додатків, оскільки обидві компанії беруть частку від внутрішньопрограмних покупок. Закон Каліфорнії забороняє підтримку служб, які створюють порнографію на основі дипфейків, а листи кажуть, що компанії "допомагають та способляють" цій шкоді.
"Ці зображення використовуються для цькування, приниження та погрози жінкам і дівчатам," сказав Чіу виданню Wired AI, яке першим повідомило про цю історію. "Були жертви, які мали суїцидальні думки."
Представник Google Ден Джексон підтвердив, що компанія видалила п'ять додатків Android, названих у листі, плюс "сотні" інших подібних, і обмежила терміни пошуку, такі як "nudify", у своєму магазині. Apple не відповіла до публікації.
Чому магазини ще не виловили ці додатки?
Apple та Google мають письмові політики, які забороняють порнографію та переслідування, але додатки послідовно проходять крізь, видаючи себе за невинні інструменти редагування. Дослідницька робота від травня 2025 року від Корнельського університету та Джорджтаунського університету протестувала 155 додатків для підміни облич і виявила, що 70 відсотків з них могли створювати оголені дипфейки без функцій безпеки, щоб це зупинити. Дослідники назвали ці додатки "двоцільовими", що означає програмне забезпечення, яке виглядає безвинним на поверхні, але може заподіяти серйозну шкоду під серединою.
Tech Transparency Project, незалежна організація громадського контролю, повідомила про виявлення близько 100 таких додатків в обох магазинах у січні та квітні 2025 року. Директор Кеті Пол висловилася прямолінійно: "Apple та Google робляють безліч обіцянок про те, наскільки надійні та безпечні їхні магазини додатків. Це просто не те, що відбувається насправді."
Попередні звіти розкрили сексуальні зображення дипфейків неповнолітніх, створених щонайменше у 90 школах.
Чіу говорить, що його офіс буде переслідувати подальші юридичні дії, якщо Apple та Google не будуть діяти. "Якщо вони не роблять правильно, нам доведеться розглянути всі наші юридичні можливості," сказав він.
