Google retira su herramienta de edición de imágenes de IA de Google Earth después de que usuarios falsificaran zonas de guerra y escenas fronterizas

Puntos clave

• Google lanzó una función de edición de imágenes impulsada por IA dentro de Google Earth un jueves, luego la deshabilitó al día siguiente después de que surgieran reportes de abuso.
• La herramienta utilizaba un modelo llamado Nano Banana 2 para alterar fotos satelitales reales basándose en instrucciones escritas, como agregar un cráter de bomba cerca de un hospital o refugiados en un cruce fronterizo.
• El investigador Henk van Ess de Digital Digging probó la herramienta y encontró que ningún indicador fue bloqueado o suavizado durante su sesión.
• Van Ess también demostró que un vídeo hecho con la función engañó a Hive, un servicio comercial de detección de contenido de IA, a pesar de la presencia de la marca de agua de Google.
• Google dice que las imágenes generadas nunca fueron visibles para otros usuarios de Google Earth, pero las capturas de pantalla compartidas en redes sociales no llevaban ese contexto.

Google Earth siempre se ha sentido como una ventana al mundo real. El jueves, Google abrió esa ventana demasiado.

La empresa lanzó silenciosamente una función que permitía a los usuarios escribir una descripción y ver a la IA repintar cualquier parche de imágenes satelitales. ¿Quieres ver cómo se ve una granja solar en ese campo vacío? En teoría está bien. ¿Quieres crear un cráter de bomba falso al lado de un hospital en Gaza, o agregar una multitud de refugiados en la frontera mexicana? Resultó que, en la práctica, también estaba bien.

Esa segunda categoría es el problema.

¿Exactamente qué hacía la herramienta?

Permitía que cualquiera con Google Earth escribiera un indicador de texto y obtuviera una versión alterada de imágenes satelitales reales. El modelo subyacente se llamaba Nano Banana 2. Google les dijo a los usuarios que las imágenes llevaban una marca de agua digital que confirmaba que fueron generadas por IA, y dijo que el sistema bloqueaba "la creación de imágenes sobre temas dañinos".

Henk van Ess, investigador de Digital Digging que rastreaba cómo se podían usar indebidamente las herramientas de IA, realizó sus propias pruebas y le contó a The Verge AI que esas protecciones simplemente no se mantenían. "Nada fue rechazado, nada fue suavizado, y nada sugirió que intentara un indicador diferente", escribió, compartiendo ejemplos que incluían escenas de crisis humanitarias falsificadas colocadas sobre coordenadas de mapas reales.

Luego fue un paso más allá. Van Ess tomó un vídeo producido dentro de la herramienta y lo pasó a través de Hive, un servicio pagado que las empresas utilizan para detectar contenido generado por IA. Hive lo perdió. La marca de agua, en otras palabras, no hizo que la imagen fuera imposible de falsificar, y la industria de detección no había alcanzado el nivel.

¿Por qué Google la cerró tan rápido?

La velocidad es importante aquí. En 24 horas, Google emitió una segunda declaración admitiendo el problema y retirando la función. La empresa dijo: "Sabemos que las personas confían únicamente en Google Earth para una vista confiable del mundo... también hemos visto a personas compartiendo capturas de pantalla de imágenes generadas que parecen violar nuestras políticas. Así que estamos revirtiendo esta función mientras trabajamos en implementar protecciones más sólidas".

Un detalle crucial enterrado en esa declaración: las imágenes falsas nunca aparecieron en la vista principal de Google Earth que ven otros usuarios. Existían solo en una sesión personal. Pero las capturas de pantalla eliminaron ese contexto en el momento en que alguien las publicó en línea.

¿Qué significa esto para las personas comunes?

Para la mayoría de los usuarios, nada cambia día a día. Google Earth se ve igual. El riesgo es menos sobre tu propia experiencia y más sobre fotos que podrías ver compartidas en redes sociales que afirmen mostrar un lugar real.

Si una imagen de satélite aparece en algún lugar sorprendente, mostrando daños o multitudes en una ubicación específica, vale la pena hacer una pausa antes de compartirla. Las herramientas de búsqueda inversa de imágenes pueden ayudar a verificar si una imagen coincide con fuentes conocidas y verificadas.

Google dice que traerá la función de vuelta una vez que haya construido "protecciones más sólidas". Cómo se verán sigue siendo una incógnita.

Preguntas comunes

¿Puedo seguir usando Google Earth normalmente?

Sí, completamente. Google retiró solo la función experimental de edición de imágenes de IA. La aplicación principal de Google Earth y el sitio web, incluidas las vistas estándar de satélite y a nivel de calle, no se ven afectados.

¿Significa una marca de agua que una imagen de IA es segura para confiar?

No por sí sola. La prueba de Van Ess mostró que un vídeo marcado con agua de la herramienta aún engañaba a un servicio comercial de detección de IA. Las marcas de agua son una señal útil, pero no son garantía, y desaparecen en el momento en que alguien captura pantalla y recorta una imagen.