Google dice que sus herramientas ayudaron a crear 100 mil millones de imágenes de IA. Una marca de agua puede etiquetarlas, pero ¿puede detener el daño?

Puntos clave

• Starling Lab, una colaboración de investigación de la Universidad de Stanford y la Universidad del Sur de California, estima que la humanidad tardó 149 años en producir 1.500 millones de fotografías; la IA generativa igualó eso en 18 meses.
• Google anunció en su conferencia de desarrolladores I/O la pasada primavera que sus herramientas ayudaron a crear más de 100 mil millones de imágenes y videos de IA en apenas un par de años.
• Google está expandiendo asociaciones en torno a SynthID, su tecnología para etiquetar contenido generado por IA, para que más plataformas puedan usarla.
• SynthID puede etiquetar contenido de IA en el momento de la creación, pero la etiqueta no puede impedir que imágenes falsas se difundan antes de que alguien las verifique.

Pongamos números: la humanidad tomó fotografías durante 149 años antes de alcanzar 1.500 millones de imágenes. La IA generativa, software que produce fotos y videos a partir de una indicación de texto, cruzó ese mismo umbral en 18 meses. Estas cifras provienen de Starling Lab, una colaboración de investigación dirigida conjuntamente por la Universidad de Stanford y la Universidad del Sur de California que estudia cómo se autentica el contenido digital.

Luego llegó Google con un número más grande. En su conferencia I/O la pasada primavera, la empresa anunció que sus herramientas habían producido más de 100 mil millones de imágenes y videos de IA en apenas un par de años. Según informó por primera vez Ars Technica AI, esa cifra cubre solo los productos propios de Google. Decenas de otras empresas también ejecutan generadores de imágenes y videos.

¿Qué es SynthID y cómo funciona?

SynthID incrusta una marca de agua invisible, una señal oculta tejida en los píxeles o datos de audio, en el contenido en el momento en que los sistemas de Google lo crean. Un detector separado puede leer esa señal más adelante. La marca de agua resiste una cantidad sorprendente de abuso: el recorte y las capturas de pantalla guardadas nuevamente generalmente la mantienen intacta.

Google utilizó el anuncio de I/O para confirmar nuevas asociaciones que extenderían SynthID a más plataformas, lo que significa que más contenido de IA creado en otro lugar podría llevar la etiqueta. Es la cuarta vez que cubrimos marcas de agua de IA desde nuestro primer informe el 22 de julio, cuando el sistema rival de Meta no logró etiquetar más de la mitad de las imágenes en una prueba del mundo real.

¿Entonces el problema está resuelto?

Ni de cerca. Una marca de agua es una etiqueta, no un candado.

El contenido con una etiqueta SynthID puede seguir propagándose a través de feeds y aplicaciones de mensajería mucho antes de que cualquier detector lo escanee. La mayoría de las personas no tienen forma de realizar una verificación por sí mismas, y las plataformas no están obligadas a mostrar una advertencia aunque pudieran.

También está todo lo que nunca se etiqueta. SynthID solo marca lo que producen las propias herramientas de Google. Cualquier imagen hecha con un generador rival o con software de código abierto que cualquiera pueda ejecutar localmente no lleva marca de agua en absoluto.

¿Qué deben observar los lectores?

La tecnología de etiquetado es genuinamente útil. Pero el volumen es la historia real. Cuando las herramientas de una empresa pueden producir 100 mil millones de contenido sintético en dos años, el riesgo realista no es un deepfake convincente. Es un océano de contenido que parece plausible y que abruma la capacidad humana de cuestionarlo. Ya hemos visto esta dinámica en acción con médicos de IA falsificados acumulando millones de visualizaciones en TikTok con consejos de salud falsos.

Algunos hábitos prácticos ayudan. Realiza una búsqueda inversa de imágenes en cualquier foto que parezca diseñada para provocar una reacción fuerte. Si un video muestra a alguien diciendo algo impactante, busca una transcripción de un periodista identificado antes de confiar en él.

La marca de agua es un punto de partida. El escepticismo sigue siendo la herramienta más afilada.