Google dice que sus herramientas ayudaron a crear 100 mil millones de imágenes de IA. Una marca de agua puede etiquetarlas, pero ¿puede detener el daño?
El volumen de contenido generado por IA es asombroso. La herramienta de marca de agua SynthID de Google puede etiquetar ese contenido, pero investigadores y periodistas aún debaten si una etiqueta es suficiente.
Puntos clave
- Starling Lab, una colaboración de investigación de la Universidad de Stanford y la Universidad del Sur de California, estima que la humanidad tardó 149 años en producir 1.500 millones de fotografías; la IA generativa logró lo mismo en 18 meses.
- Google anunció en su conferencia de desarrolladores I/O esta primavera que sus herramientas ayudaron a crear más de 100 mil millones de imágenes y videos de IA en apenas un par de años.
- Google está expandiendo asociaciones alrededor de SynthID, su tecnología para etiquetar contenido generado por IA, para que más plataformas puedan usarla.
- SynthID puede etiquetar contenido de IA en el momento de la creación, pero la etiqueta no puede detener la propagación de imágenes falsas antes de que alguien las verifique.
Pongámoslo en números: la humanidad capturó fotografías durante 149 años antes de alcanzar 1.500 millones de imágenes. La IA generativa, software que crea fotos, videos y audio a partir de una indicación de texto, cruzó esa misma línea en 18 meses. Estas cifras provienen de Starling Lab, una colaboración de investigación dirigida conjuntamente por la Universidad de Stanford y la Universidad del Sur de California que estudia cómo se autentica el contenido digital.
Luego llegó Google con un número mayor. En su conferencia I/O esta primavera, la empresa dijo que sus herramientas habían sido utilizadas para producir más de 100 mil millones de imágenes y videos de IA en apenas un par de años. Según reportó primero Ars Technica AI, esa cifra cubre únicamente los productos propios de Google. Docenas de otras empresas también ejecutan generadores de imágenes y videos.
¿Qué es SynthID y cómo funciona?
SynthID es la respuesta de Google a una pregunta simple: una vez que existe una imagen de IA, ¿cómo sabe alguien que es falsa? La herramienta inserta una marca de agua invisible, una señal oculta tejida en los píxeles o datos de audio, en el contenido en el momento en que los sistemas de Google lo crean. Un detector separado puede leer esa señal más adelante.
La marca de agua resiste una cantidad sorprendente de manipulación. El recorte, los filtros de color y las capturas de pantalla guardadas nuevamente generalmente la mantienen intacta.
Google utilizó el anuncio de I/O para confirmar nuevas asociaciones que extenderían SynthID a más plataformas, lo que significa que más contenido de IA creado en otros lugares podría llevar la etiqueta.
¿Entonces el problema está resuelto?
Ni de lejos. Una marca de agua es una etiqueta, no un candado.
El contenido que lleva una etiqueta SynthID puede propagarse por las redes sociales, aplicaciones de mensajería y fuentes de noticias mucho antes de que algún detector lo analice. La mayoría de las personas ordinarias no tienen forma de ejecutar una verificación por sí mismas, y las plataformas no están obligadas a mostrar una advertencia incluso si pudieran.
También está el contenido que nunca se etiqueta. SynthID solo marca lo que producen las propias herramientas de Google. Cualquier imagen hecha con un generador rival, o con software de código abierto más antiguo que cualquiera puede descargar y ejecutar localmente, no lleva ninguna marca de agua.
¿Qué deben tener en cuenta los lectores?
La tecnología de etiquetado es genuinamente útil y vale la pena tenerla. Pero el volumen es la verdadera historia aquí. Cuando las herramientas de una única empresa pueden producir 100 mil millones de piezas de contenido sintético en dos años, el riesgo realista no es una falsificación profunda convincente; es un océano de contenido falso que parece plausible y abruma la capacidad humana de cuestionarlo.
Algunos hábitos prácticos ayudan. Utiliza búsqueda inversa de imágenes en cualquier foto que parezca diseñada para provocar una reacción fuerte. Verifica si una historia aparece en más de un medio acreditado antes de compartirla. Si un video muestra a alguien diciendo algo impactante, busca una transcripción de texto de un periodista identificado antes de confiar en él.
La marca de agua es un punto de partida. El escepticismo sigue siendo la herramienta mejor.
