Google desactivó una función recién lanzada de Earth AI menos de 24 horas después de su debut, después de que usuarios y críticos señalaran un problema evidente: la herramienta permitía superponer fácilmente imágenes sintéticas generadas por IA sobre mapas satelitales reales de ubicaciones del mundo. El resultado eran composiciones que parecían realistas y podían tergiversar la apariencia real de un lugar.
El problema central va más allá de lo estético. Cuando el contenido generado por IA se ancla a datos geográficos verificados —coordenadas reales, terreno real— adquiere una capa de credibilidad falsa que los deepfakes puros no tienen. Alguien podría fabricar imágenes de una instalación militar, una zona de desastre o un sitio de construcción y hacer que pareciera fundamentada en la realidad cartográfica. Esa es una categoría de riesgo significativamente mayor que una imagen generada aislada.
La rápida marcha atrás de Google sugiere que el proceso de revisión interna no evaluó completamente el potencial de mal uso antes del lanzamiento, un patrón recurrente en las funciones de IA generativa lanzadas con prisa. La herramienta estuvo disponible el tiempo suficiente para atraer atención pública, pero no lo bastante para que Google respondiera con salvaguardas o una versión modificada.
Para desarrolladores que trabajan con datos geoespaciales o APIs de mapas, este episodio es un recordatorio útil: cualquier herramienta que fusione resultados de IA generativa con fuentes de datos del mundo real confiables necesita pruebas adversariales antes de su lanzamiento. La pregunta a formular no es solo "¿qué pueden crear los usuarios?" sino "¿cuál es la cosa más dañina que un actor malintencionado podría plausiblemente producir con esto?"
Google no ha confirmado si la herramienta regresará en una forma revisada. Dada la sensibilidad de la desinformación basada en ubicación —particularmente en contextos geopolíticos y de respuesta ante desastres— cualquier relanzamiento probablemente requerirá restricciones de contenido significativas o capas de verificación para evitar una reacción negativa similar.