Google ha lanciato giovedì un tool di generazione immagini dentro Google Earth, chiamato Nano Banana 2: permetteva di alterare le foto satellitari con un prompt testuale. Il ricercatore Henk van Ess ha dimostrato che bastava una frase per creare immagini credibili di rifugiati al confine messicano e di un cratere di bomba vicino a un ospedale a Gaza. Venerdì Google ha ritirato la funzione.

Il problema stava nell’uso previsto del tool, applicato a un dominio dove la fiducia conta più della creatività. Google Earth è lo strumento che giornalisti, ONG e analisti OSINT usano per verificare cosa succede sul terreno. Se chiunque può sovrascrivere una base satellitare reale con elementi inventati, il costo della verifica si alza per tutti.

Google aveva inserito il watermark SynthID su ogni immagine e dichiarato di bloccare gli argomenti dannosi. Niente da fare: van Ess ha generato scene di conflitto e migranti senza che un solo prompt venisse rifiutato. Un video prodotto con il tool ha persino ingannato Hive, un rilevatore esterno di contenuti AI.

La pratica che resta in piedi è la verifica incrociata. Van Ess consiglia di confrontare le immagini con piattaforme indipendenti come Sentinel-2 o Landsat e di controllare i metadati orbitali. È la stessa logica della lezione su quanto fidarsi dell’output AI: non puoi controllare tutto, ma puoi sapere dove guardare prima di usare un risultato.

Nel dettaglio

Nano Banana 2 era il modello di generazione immagini integrato nella versione web di Google Earth. Il lancio era stato presentato sul blog di Google come uno strumento per visualizzare siti storici e progetti immobiliari: l’idea era lasciare che gli utenti immaginassero come potrebbero apparire certi luoghi con nuove costruzioni o restauri. La demo ufficiale mostrava Pompei ricostruita.

Henk van Ess, che firma il blog Digital Digging, ha provato il tool con intenti diversi. Ha chiesto al modello di mostrare rifugiati vicino al confine tra Messico e Stati Uniti, e un cratere di bomba accanto a un ospedale a Gaza. Le immagini risultanti erano abbastanza credibili da circolare come documentazione falsa in contesti giornalistici o di attivismo politico.

La risposta iniziale di Google si è concentrata sul watermark. Ogni immagine generata con Nano Banana 2 porta un marcatore SynthID, la tecnologia di watermarking invisibile sviluppata da Google DeepMind. SynthID modifica alcuni pixel in modo impercettibile all’occhio umano ma rilevabile dagli strumenti di Google. Il problema è che SynthID richiede chi lo cerca: se qualcuno incolla l’immagine in un articolo o la condivide sui social, il lettore medio non sa di doverla verificare. Van Ess ha dimostrato il punto creando un video da immagini generate e sottoponendolo a Hive, un rilevatore di contenuti AI commerciale. Hive non l’ha riconosciuto come sintetico.

Google aveva anche dichiarato di prevenire la creazione di immagini su «argomenti dannosi». Van Ess ha riferito il contrario: nessun prompt rifiutato, nessuna modifica, nessun suggerimento di riformulare la richiesta. Le policy c’erano, ma i filtri non le applicavano.

Dopo le pubblicazioni di van Ess e le domande dei giornalisti, Google ha pubblicato un nuovo comunicato. La frase chiave: «Sappiamo che le persone si affidano a Google Earth per una visione affidabile del mondo». Hanno riconosciuto che, sebbene le immagini generate non comparissero nell’esperienza principale di Google Earth (restavano nella sessione dell’utente che le creava), gli screenshot circolavano fuori dal contesto. Il rollback è arrivato mentre lavoravano a «guardrail più forti».

Il punto per chi si potenzia con l’AI sta nel confine fra generazione e monitoraggio. Gli strumenti di generazione stanno diventando abbastanza buoni da produrre immagini che si confondono con i dati reali. Quando la base è un satellite reale e l’AI aggiunge elementi plausibili, la falsificazione diventa difficile da rilevare a occhio. SynthID e watermark simili sono utili per la tracciabilità, ma richiedono che chi riceve l’immagine sappia di doverla controllare e abbia lo strumento per farlo.

La verifica incrociata resta la pratica più solida. Van Ess suggerisce tre controlli: confrontare l’immagine con piattaforme satellitari indipendenti (Sentinel-2 dell’ESA, Landsat della NASA), verificare i metadati orbitali (quale satellite ha scattato, quando), e cercare conferme da fonti terze sul terreno. È un protocollo che chi fa OSINT conosce già, ma che ora va esteso anche alle immagini apparentemente uscite da Google Earth.

Cosa resta aperto: Google non ha detto quando o se il tool tornerà, né quali guardrail intenda implementare. La storia è anche un caso da manuale di uso dannoso prevedibile. Un tool che genera immagini su una base satellitare reale, accessibile a chiunque sul web, era destinato a essere usato per disinformazione. Il ritiro in 24 ore dimostra che Google l’ha capito, ma il fatto che sia arrivato al lancio dice che la valutazione dei rischi era insufficiente.