Meta удалила свой инструмент создания AI-изображений после того, как пользователи обнаружили, что незнакомцы могут переделывать их фото без разрешения
Новая функция позволяла любому отметить открытый аккаунт Instagram и создавать AI-изображения из его фотографий. Meta отключила её за несколько дней, назвав запуск ошибкой.
Ключевые моменты
- Meta запустила Muse Image, свой первый инструмент создания AI-изображений, в Instagram во вторник, но отключила его через несколько дней после волны критики.
- Функция позволяла пользователям отметить любой открытый аккаунт Instagram и использовать его фотографии для создания AI-изображений без ведома и согласия владельца аккаунта.
- Открытые аккаунты Instagram были включены по умолчанию, что означало, что пользователям нужно было активно отказаться, чтобы защитить свой облик.
- Голливудский профсоюз SAG-AFTRA назвал разворот Meta «победой» и ранее призывал всех пользователей Instagram принять защитные меры.
- Meta сказала, что «не попала в точку» и подтвердила, что функция больше недоступна.
Meta, компания, владеющая Instagram, Facebook и WhatsApp, запустила Muse Image во вторник. Muse Image — это новый инструмент создания AI-изображений, программное обеспечение, которое может создавать или изменять фотографии на основе текстовых подсказок и существующих изображений, и он был встроен прямо в AI-чатбот Meta в Instagram.
Проблема была в том, что он мог делать с фотографиями других людей.
Любой пользователь мог отметить открытый аккаунт Instagram внутри чатбота Meta, а затем использовать опубликованные фотографии этого аккаунта в качестве материала для создания новых AI-изображений. Человек, чьи фотографии использовались, не должен был согласиться. Он даже не должен был об этом узнать.
Открытые аккаунты были включены по умолчанию. Это означало, что миллионы обычных пользователей, люди, управляющие небольшими предприятиями, публикующие фитнес-контент или просто делящиеся фотографиями из отпуска, были автоматически включены. Отключение требовало целенаправленного действия, о котором большинство пользователей не знали, что им нужно предпринять.
Критика была быстрой и громкой. SAG-AFTRA, голливудский профсоюз, представляющий актёров и исполнителей, назвал это «полным неверным расчётом настроений общества» и призвал своих членов и всех пользователей Instagram предпринять действия. Privacy International, благотворительная организация по правам человека из Лондона, сообщила BBC Technology, что этот шаг был «ещё одним признаком того, что компании искусственного интеллекта рассматривают изображения и данные людей как сырьё для эксплуатации».
Meta отключила функцию и выпустила краткое заявление: «Мы услышали отзывы. Мы не попали в точку».
Компания сказала, что её намерением было предложить творческий инструмент и дать людям контроль над своим контентом. Запуск говорил об обратном.
Должны ли пользователи Instagram что-то делать сейчас?
Конкретная функция отметки Muse Image исчезла, поэтому немедленных действий по этому поводу не требуется. Но стоит проверить настройки конфиденциальности своего аккаунта Instagram прямо сейчас. Если ваш аккаунт открыт, любой может видеть ваши посты, и будущие AI-инструменты, от Meta или кого-либо ещё, могут их использовать, если вы не откажетесь или не переведёте аккаунт в приватный режим.
Meta подтвердила, что больше AI-функций планируются для WhatsApp, Facebook и Messenger, и разрабатывается инструмент для создания AI-видео. Маловероятно, что это будет последний случай подобного рода.
SAG-AFTRA назвала удаление функции победой. Это небольшая победа. Более широкий вопрос — могут ли ваши открытые изображения использоваться для обучения или использоваться AI-инструментами вообще — остаётся полностью открытым.
