Google lanzó el jueves una herramienta de generación de imágenes dentro de Google Earth, llamada Nano Banana 2: permitía alterar fotos satelitales con un prompt textual. El investigador Henk van Ess demostró que bastaba una frase para crear imágenes creíbles de refugiados en la frontera mexicana y de un cráter de bomba cerca de un hospital en Gaza. El viernes, Google retiró la función.

El problema estaba en el uso previsto de la herramienta, aplicada a un dominio donde la confianza importa más que la creatividad. Google Earth es la herramienta que periodistas, ONG y analistas OSINT usan para verificar qué sucede sobre el terreno. Si cualquiera puede sobrescribir una base satelital real con elementos inventados, el costo de la verificación aumenta para todos.

Google había insertado la marca de agua SynthID en cada imagen y declaró bloquear temas dañinos. Nada de eso funcionó: van Ess generó escenas de conflicto y migrantes sin que un solo prompt fuera rechazado. Un vídeo producido con la herramienta incluso engañó a Hive, un detector externo de contenidos AI.

La práctica que sigue en pie es la verificación cruzada. Van Ess recomienda comparar las imágenes con plataformas independientes como Sentinel-2 o Landsat y verificar los metadatos orbitales. Es la misma lógica de la lección sobre cuánta confianza depositar en el output de AI: no puedes controlarlo todo, pero puedes saber dónde mirar antes de usar un resultado.

En detalle

Nano Banana 2 era el modelo de generación de imágenes integrado en la versión web de Google Earth. El lanzamiento se había presentado en el blog de Google como una herramienta para visualizar sitios históricos y proyectos inmobiliarios: la idea era permitir que los usuarios imaginaran cómo podrían verse ciertos lugares con nuevas construcciones o restauraciones. La demo oficial mostraba Pompeya reconstruida.

Henk van Ess, que firma el blog Digital Digging, probó la herramienta con intenciones distintas. Le pidió al modelo que mostrara refugiados cerca de la frontera entre México y Estados Unidos, y un cráter de bomba junto a un hospital en Gaza. Las imágenes resultantes eran lo suficientemente creíbles para circular como documentación falsa en contextos periodísticos o de activismo político.

La respuesta inicial de Google se concentró en la marca de agua. Cada imagen generada con Nano Banana 2 lleva un marcador SynthID, la tecnología de marca de agua invisible desarrollada por Google DeepMind. SynthID modifica algunos píxeles de manera imperceptible al ojo humano pero detectable por las herramientas de Google. El problema es que SynthID requiere que alguien lo busque: si alguien pega la imagen en un artículo o la comparte en redes sociales, el lector medio no sabe que debe verificarla. Van Ess demostró el punto creando un vídeo a partir de imágenes generadas y sometiéndolo a Hive, un detector comercial de contenidos AI. Hive no lo reconoció como sintético.

Google también había declarado prevenir la creación de imágenes sobre «temas dañinos». Van Ess reportó lo contrario: ningún prompt rechazado, ninguna modificación, ninguna sugerencia de reformular la solicitud. Las políticas existían, pero los filtros no las aplicaban.

Tras las publicaciones de van Ess y las preguntas de periodistas, Google publicó un nuevo comunicado. La frase clave: «Sabemos que las personas confían en Google Earth para una visión confiable del mundo». Reconocieron que, aunque las imágenes generadas no aparecían en la experiencia principal de Google Earth (permanecían en la sesión del usuario que las creaba), las capturas de pantalla circulaban fuera de contexto. La reversión llegó mientras trabajaban en «salvaguardias más fuertes».

El punto para quien se potencia con IA está en el límite entre generación y monitoreo. Las herramientas de generación se están volviendo lo suficientemente buenas para producir imágenes que se confunden con datos reales. Cuando la base es un satélite real y la IA añade elementos plausibles, la falsificación se vuelve difícil de detectar a simple vista. SynthID y marcas de agua similares son útiles para la trazabilidad, pero requieren que quien recibe la imagen sepa que debe verificarla y tenga la herramienta para hacerlo.

La verificación cruzada sigue siendo la práctica más sólida. Van Ess sugiere tres comprobaciones: comparar la imagen con plataformas satelitales independientes (Sentinel-2 de la ESA, Landsat de la NASA), verificar los metadatos orbitales (qué satélite tomó la foto, cuándo) y buscar confirmaciones de fuentes terceras sobre el terreno. Es un protocolo que quienes hacen OSINT ya conocen, pero que ahora debe extenderse también a imágenes aparentemente salidas de Google Earth.

Qué queda abierto: Google no ha dicho cuándo o si la herramienta volverá, ni qué salvaguardias pretende implementar. La historia es también un caso de manual sobre uso dañino predecible. Una herramienta que genera imágenes sobre una base satelital real, accesible para cualquiera en la web, estaba destinada a usarse para desinformación. La retirada en 24 horas demuestra que Google lo entendió, pero el hecho de que llegara al lanzamiento indica que la evaluación de riesgos fue insuficiente.