Meta retiró su herramienta de IA para imágenes después de que los usuarios descubrieran que extraños podían remixar sus fotos sin permiso
Una nueva función permitía etiquetar cualquier cuenta pública de Instagram y generar imágenes de IA a partir de sus fotos. Meta la eliminó en días, calificando el lanzamiento como un fracaso.
Puntos clave
- Meta lanzó Muse Image, su primera herramienta de generación de imágenes de IA, en Instagram el martes antes de retirarla días después por el rechazo público.
- La función permitía a los usuarios etiquetar cualquier cuenta pública de Instagram y usar sus fotos para crear imágenes generadas por IA, sin el conocimiento o consentimiento del propietario de la cuenta.
- Las cuentas públicas de Instagram estaban activadas por defecto, lo que significaba que los usuarios tenían que optar activamente por no participar para proteger su imagen.
- El sindicato de Hollywood SAG-AFTRA llamó a la marcha atrás de Meta un "triunfo" y previamente había instado a todos los usuarios de Instagram a tomar medidas de protección.
- Meta dijo que "no acertó" y confirmó que la función ya no está disponible.
Meta, la empresa propietaria de Instagram, Facebook y WhatsApp, lanzó Muse Image el martes. Muse Image es una nueva herramienta de generación de imágenes de IA, software que puede crear o alterar fotos basadas en indicaciones de texto e imágenes existentes, e estaba integrada directamente en el chatbot de IA de Meta en Instagram.
El problema era lo que podía hacer con las fotos de otras personas.
Cualquier usuario podía etiquetar una cuenta pública de Instagram dentro del chatbot de Meta y luego usar las imágenes publicadas de esa cuenta como material para generar nuevas imágenes creadas por IA. La persona cuyas fotos se estaban usando no necesitaba estar de acuerdo. Ni siquiera necesitaba saberlo.
Las cuentas públicas estaban activadas por defecto. Esto significaba que millones de usuarios ordinarios, personas que dirigen pequeños negocios, publican contenido de fitness o simplemente comparten fotos de vacaciones, estaban incluidos automáticamente. Optar por no participar requería una acción deliberada que la mayoría de los usuarios no sabían que necesitaban tomar.
La reacción fue rápida y contundente. SAG-AFTRA, el sindicato de Hollywood que representa a actores y artistas, la calificó como un "error de cálculo absoluto del sentimiento público" e instó a sus miembros y a todos los usuarios de Instagram a actuar. Privacy International, una organización benéfica de derechos humanos con sede en Londres, le dijo a BBC Technology que el movimiento era "el último signo de que las empresas de IA ven las imágenes y datos de las personas como material bruto para ser explotado".
Meta retiró la función e emitió una breve declaración: "Hemos escuchado los comentarios. No acertamos".
La empresa dijo que su intención era ofrecer una herramienta creativa y dar a las personas control sobre su contenido. El lanzamiento sugería lo contrario.
¿Deberían hacer algo ahora los usuarios de Instagram?
La función específica de etiquetado de Muse Image se ha eliminado, por lo que no se necesita una acción inmediata para eso. Pero vale la pena verificar la configuración de privacidad de su cuenta de Instagram ahora. Si su cuenta es pública, cualquiera puede ver sus publicaciones, y futuras herramientas de IA, de Meta o de cualquier otro, podrían usarlas a menos que opte por no participar o cambie a una cuenta privada.
Meta confirmó que hay más funciones de IA planeadas para WhatsApp, Facebook y Messenger, y una herramienta de video de IA está en desarrollo. Es poco probable que esta sea la última noticia de este tipo.
SAG-AFTRA llamó a la eliminación una victoria. Es una pequeña. La pregunta más amplia, si sus imágenes publicadas públicamente pueden usarse para entrenar o potenciar herramientas de IA en absoluto, sigue abierta.
