Meta a retiré en 48 heures la fonctionnalité annoncée mardi qui permettait de générer des images AI en tagguant n’importe quel compte Instagram public. La fonctionnalité, partie du lancement de Muse Image, ne nécessitait pas le consentement du propriétaire du compte et ne l’en avertissait pas.

La réaction a été immédiate et dure. Haley McNamara du National Center on Sexual Exploitation a qualifié la fonctionnalité « d’outil évident pour le sextorsion et les escroqueries », critiquant l’approche opt-out. La Screen Actors Guild a publié des instructions pour la désactiver et des agences de talents comme CAA ont fait pression sur Meta.

Pourquoi c’est important pour toi. C’est le premier cas documenté où une grande plateforme lance une fonctionnalité de génération AI sur des images de personnes réelles sans consentement préalable et la retire sous pression en deux jours. Le précédent compte : si Meta a fait demi-tour si vite, c’est que le périmètre du consentement explicite se consolide comme standard non négociable, non seulement pour les politiques internes mais pour le risque réputationnel et légal. Si tu conçois un système utilisant les contenus d’autres personnes pour l’entraînement ou la génération, c’est le signal que l’opt-out ne tient plus.

Si tu veux comprendre le contexte. Meta avait déjà lancé Muse Spark 1.1 API quelques jours plus tôt avec des tarifs agressifs pour attirer les développeurs : cette fonctionnalité était la tentative de porter la même capacité générative dans Instagram pour les utilisateurs normaux, mais le modèle de consentement choisi s’est avéré insoutenable.

En détail

Ce qui existait avant

Meta avait déjà intégré des capacités génératives AI dans Instagram et Facebook (Meta AI, disponible dans les chats et le fil d’actualité), mais jusqu’à présent les outils fonctionnaient sur des prompts textuels ou sur des images téléchargées par l’utilisateur lui-même. La nouveauté de cette fonctionnalité était la référence directe aux contenus publics d’autres utilisateurs via des tags : tu écris un prompt, tu tagges un compte public et le modèle génère une image qui incorpore des éléments visuels de ce compte.

Le mécanisme était opt-out : chaque utilisateur avec un profil public était inclus par défaut et devait aller dans les paramètres pour désactiver l’utilisation de ses contenus. Il n’y avait pas de notification quand quelqu’un utilisait ton compte dans une génération.

La réaction

La critique s’est concentrée sur trois points :

1. Risque d’abus sexuel et d’escroqueries. McNamara (NCOSE) a souligné que la fonctionnalité est « un outil évident pour le sextorsion » : générer des images d’une personne dans des contextes faux (sexuels, compromettants, illégaux) devient trivial. Le risque n’est pas théorique : les cas de deepfake non consentis sont déjà documentés et répandus, et une fonctionnalité intégrée dans une plateforme avec des milliards d’utilisateurs réduit drastiquement la barrière technique.

2. Inversion du fardeau. L’approche opt-out place la responsabilité de protéger sa propre image sur l’utilisateur, qui doit connaître la fonctionnalité, la trouver dans les paramètres et la désactiver. Par comparaison, d’autres systèmes (comme ceux d’Anthropic et OpenAI) ne permettent pas de générer des images de personnes réelles identifiables sans consentement explicite préalable.

3. Absence de transparence. Il n’y avait aucun moyen pour un utilisateur de savoir si et quand quelqu’un avait utilisé son compte pour générer une image.

La Screen Actors Guild a publié un guide pour ses membres sur la façon de désactiver la fonctionnalité, et des agences de représentation comme CAA ont soulevé la question directement auprès de Meta. La couverture médiatique (The Verge, TechCrunch, Puck News) a été unanime pour critiquer ce choix.

La retraite

Vendredi, Meta a mis à jour le post de lancement avec cette phrase : « Nous avons entendu les retours disant que cette fonctionnalité a raté sa cible, elle n’est donc plus disponible. » La fonctionnalité a été désactivée mondialement.

Le fait que Meta ait retiré la fonctionnalité en 48 heures, au lieu de simplement changer le défaut de opt-out à opt-in, indique que le problème n’était pas seulement l’implémentation mais le modèle de consentement lui-même. Dylan Byers (Puck News) a rapporté que la décision est venue après des pressions directes des agences de talents.

Ce qui reste en suspens

Meta n’a pas clarifié :

• Si les images générées pendant les 48 heures où la fonctionnalité était active ont été conservées ou supprimées.
• Si les contenus des comptes publics utilisés pendant cette période sont encore dans le training set de Muse Image ou s’ils ont été supprimés.
• Si une version opt-in de la fonctionnalité reviendra ou si le projet a été abandonné.

Implications pratiques

Si tu construis ou décides d’un système utilisant les contenus de personnes réelles (images, vidéos, voix, texte) pour l’entraînement ou la génération :

• L’opt-out ne suffit plus pour les contenus qui représentent des personnes identifiables. Le risque réputationnel et légal est trop élevé, même si techniquement la politique respecte les conditions d’utilisation de la plateforme.
• La notification compte. Même avec opt-in, un système qui n’avertit pas l’utilisateur quand ses contenus sont utilisés est vulnérable.
• Le consentement doit précéder l’utilisation, non la suivre : présenter des excuses après le lancement coûte plus cher que de concevoir le consentement avant.

Ce n’est pas un cas isolé : c’est le premier retrait public et rapide d’une fonctionnalité AI sur une plateforme consumer de cette envergure, et il trace une frontière que d’autres devront suivre ou justifier d’avoir franchie.