Google a lancé jeudi un outil de génération d’images intégré à Google Earth, appelé Nano Banana 2 : il permettait de modifier les photos satellitaires via un prompt textuel. Le chercheur Henk van Ess a démontré qu’une simple phrase suffisait pour créer des images convaincantes de réfugiés à la frontière mexicaine et d’un cratère de bombe près d’un hôpital à Gaza. Vendredi, Google a retiré la fonctionnalité.

Le problème résidait dans l’usage prévu de l’outil, appliqué à un domaine où la confiance prime sur la créativité. Google Earth est l’instrument utilisé par les journalistes, les ONG et les analystes OSINT pour vérifier ce qui se passe sur le terrain. Si n’importe qui peut superposer des éléments inventés sur une base satellitaire réelle, le coût de la vérification augmente pour tous.

Google avait inséré le watermark SynthID sur chaque image et déclaré bloquer les contenus nuisibles. Sans effet : van Ess a généré des scènes de conflit et de migrants sans qu’un seul prompt soit rejeté. Une vidéo produite avec l’outil a même trompé Hive, un détecteur externe de contenus IA.

La pratique qui demeure est la vérification croisée. Van Ess recommande de comparer les images avec des plateformes indépendantes comme Sentinel-2 ou Landsat et de vérifier les métadonnées orbitales. C’est la même logique que la leçon sur la confiance envers l’output IA : vous ne pouvez pas tout contrôler, mais vous pouvez savoir où regarder avant d’utiliser un résultat.

En détail

Nano Banana 2 était le modèle de génération d’images intégré à la version web de Google Earth. Son lancement avait été présenté sur le blog de Google comme un outil pour visualiser des sites historiques et des projets immobiliers : l’idée était de permettre aux utilisateurs d’imaginer comment certains lieux pourraient apparaître avec de nouvelles constructions ou restaurations. La démo officielle montrait Pompéi reconstruite.

Henk van Ess, qui signe le blog Digital Digging, a testé l’outil avec des intentions différentes. Il a demandé au modèle de montrer des réfugiés près de la frontière entre le Mexique et les États-Unis, ainsi qu’un cratère de bombe à côté d’un hôpital à Gaza. Les images résultantes étaient suffisamment convaincantes pour circuler comme documentation falsifiée dans des contextes journalistiques ou d’activisme politique.

La réponse initiale de Google s’est concentrée sur le watermark. Chaque image générée avec Nano Banana 2 porte un marqueur SynthID, la technologie de watermarking invisible développée par Google DeepMind. SynthID modifie certains pixels de manière imperceptible à l’œil humain mais détectable par les outils de Google. Le problème, c’est que SynthID requiert qu’on le recherche : si quelqu’un colle l’image dans un article ou la partage sur les réseaux sociaux, le lecteur moyen ne sait pas qu’il doit la vérifier. Van Ess a démontré le problème en créant une vidéo à partir d’images générées et en la soumettant à Hive, un détecteur commercial de contenus IA. Hive ne l’a pas reconnu comme synthétique.

Google avait aussi déclaré prévenir la création d’images sur les « sujets nuisibles ». Van Ess a rapporté le contraire : aucun prompt rejeté, aucune modification, aucune suggestion de reformuler la demande. Les politiques existaient, mais les filtres ne les appliquaient pas.

Après les publications de van Ess et les questions des journalistes, Google a publié un nouveau communiqué. La phrase clé : « Nous savons que les gens comptent sur Google Earth pour avoir une vision fiable du monde ». Ils ont reconnu que, bien que les images générées n’apparaissent pas dans l’expérience principale de Google Earth (elles restaient dans la session de l’utilisateur qui les créait), les captures d’écran circulaient hors contexte. Le retrait s’est produit alors qu’ils travaillaient sur des « garde-fous plus robustes ».

Le point pour ceux qui renforcent leurs capacités avec l’IA réside dans la frontière entre génération et surveillance. Les outils de génération deviennent assez bons pour produire des images qui se confondent avec les données réelles. Quand la base est un satellite réel et l’IA ajoute des éléments plausibles, la falsification devient difficile à détecter à l’œil nu. SynthID et des watermarks similaires sont utiles pour la traçabilité, mais exigent que celui qui reçoit l’image sache qu’il doit la vérifier et dispose de l’outil pour le faire.

La vérification croisée reste la pratique la plus solide. Van Ess suggère trois contrôles : comparer l’image avec des plateformes satellitaires indépendantes (Sentinel-2 de l’ESA, Landsat de la NASA), vérifier les métadonnées orbitales (quel satellite a pris la photo, quand), et chercher des confirmations auprès de sources tierces sur le terrain. C’est un protocole que les spécialistes d’OSINT connaissent déjà, mais qui doit maintenant s’étendre aussi aux images apparemment générées par Google Earth.

Ce qui reste ouvert : Google n’a pas dit quand ou si l’outil reviendraient, ni quels garde-fous il entend implémenter. L’histoire est aussi un cas d’école d’usage nuisible prévisible. Un outil générant des images sur une base satellitaire réelle, accessible à tous sur le web, était destiné à être utilisé pour la désinformation. Le retrait en 24 heures montre que Google l’a compris, mais le fait qu’il ait atteint le lancement indique que l’évaluation des risques était insuffisante.