Meta видалила свій інструмент для генерації зображень AI після того, як користувачі дізналися, що незнайомці можуть переробляти їхні фото без дозволу
Нова функція дозволяла будь-кому позначити публічний аккаунт в Instagram і генерувати AI-зображення з його фотографій. Meta закрила її за кілька днів, назвавши запуск помилкою.
Ключові моменти
- Meta запустила Muse Image, свій перший інструмент для генерування AI-зображень, в Instagram у вівторок, але видалила його за кілька днів після критики громадськості.
- Функція дозволяла користувачам позначити будь-який публічний аккаунт в Instagram і використовувати його фотографії для створення AI-генерованих зображень без відома і дозволу власника аккаунту.
- Публічні аккаунти були включені за замовчуванням, тобто користувачам потрібно було активно відмовитися, щоб захистити свою подобу.
- Голлівудський профспілковий союз SAG-AFTRA назвав розворот Meta «перемогою» і раніше закликав усіх користувачів Instagram вжити захисних заходів.
- Meta заявила, що «не потрапила в ціль» і підтвердила, що функція більше недоступна.
Meta, компанія, яка володіє Instagram, Facebook і WhatsApp, запустила Muse Image у вівторок. Muse Image — це новий інструмент для генерування AI-зображень, програмне забезпечення, яке може створювати або змінювати фотографії на основі текстових підказок і існуючих зображень, і він був вбудований прямо в AI-чатбот Meta в Instagram.
Проблема була в тому, що він міг робити з фотографіями інших людей.
Будь-який користувач міг позначити публічний аккаунт в Instagram всередині чатбота Meta, а потім використовувати розміщені цим аккаунтом зображення як матеріал для генерування нових AI-створених фотографій. Людина, чиї фотографії використовувалися, не мала давати згоду. Вона навіть не мала знати про це.
Публічні аккаунти були включені за замовчуванням. Це означало, що мільйони звичайних користувачів, люди, які ведуть малий бізнес, публікують контент про фітнес або просто ділилися фотографіями з відпустки, були включені автоматично. Відмова вимагала цілеспрямованої дії, про яку більшість користувачів навіть не знали, що їй потрібно вжити.
Критика була швидкою і гучною. SAG-AFTRA, голлівудський профспілковий союз, який представляє акторів і виконавців, назвав це «абсолютною помилкою в розумінні громадської думки» і закликав своїх членів та всіх користувачів Instagram до дій. Privacy International, благодійна організація з захисту прав людини з Лондона, розповіла BBC Technology, що цей крок був «ще одним свідченням того, що компанії AI розглядають фотографії та дані людей як сировину для експлуатації».
Meta видалила функцію і видала коротку заяву: «Ми почули ваш відгук. Ми не потрапили в ціль».
Компанія заявила, що її метою було запропонувати творчий інструмент і дати людям контроль над своїм контентом. Запуск свідчив про протилежне.
Що повинні зробити користувачі Instagram зараз?
Конкретна функція позначення Muse Image зникла, тому негайних дій для неї не потрібно. Але варто перевірити налаштування приватності вашого аккаунту в Instagram. Якщо ваш аккаунт публічний, будь-хто може бачити ваші пости, і майбутні AI-інструменти, від Meta або когось іншого, можуть їх використовувати, якщо ви не відмовитеся або не перейдете на приватний аккаунт.
Meta підтвердила, що плануються додаткові AI-функції для WhatsApp, Facebook і Messenger, а також розробляється інструмент для роботи з AI-відео. Ця історія, ймовірно, буде не останньою в такому ключі.
SAG-AFTRA назвала видалення перемогою. Це невелика перемога. Ширше питання про те, чи можуть публічно розміщені зображення використовуватися для навчання або використання AI-інструментів загалом, залишається відкритим.
