Meta ha ritirato in 48 ore la feature annunciata martedì che permetteva di generare immagini AI taggando qualsiasi account Instagram pubblico. La feature, parte del lancio di Muse Image, non richiedeva il consenso del proprietario dell’account e non lo avvisava dell’uso.

La reazione è stata immediata e dura. Haley McNamara del National Center on Sexual Exploitation ha definito la feature «uno strumento ovvio per sextortion e truffe», criticando l’approccio opt-out. La Screen Actors Guild ha pubblicato istruzioni per disabilitarla e agenzie di talento come CAA hanno fatto pressione su Meta.

Perché ti riguarda. È il primo caso documentato di una grande piattaforma che lancia una feature di generazione AI su immagini di persone reali senza consenso preventivo e la ritira sotto pressione in due giorni. Il precedente conta: se Meta ha fatto marcia indietro così in fretta, significa che il perimetro del consenso esplicito si sta consolidando come standard non negoziabile, non solo per policy interne ma per rischio reputazionale e legale. Se stai progettando qualsiasi sistema che usa contenuti di altre persone per training o generazione, questo è il segnale che l’opt-out non regge più.

Se vuoi capire dove eravamo. Meta aveva già lanciato Muse Spark 1.1 API pochi giorni fa con prezzi aggressivi per attrarre sviluppatori: questa feature era il tentativo di portare la stessa capacità generativa dentro Instagram per utenti normali, ma il modello di consenso scelto si è rivelato insostenibile.

Nel dettaglio

Cosa c’era prima

Meta aveva già integrato capacità generative AI in Instagram e Facebook (Meta AI, disponibile in chat e feed), ma finora gli strumenti lavoravano su prompt testuali o su immagini caricate dall’utente stesso. La novità di questa feature era il riferimento diretto a contenuti pubblici di altri utenti tramite tag: scrivi un prompt, tagghi un account pubblico e il modello genera un’immagine che incorpora elementi visivi di quell’account.

Il meccanismo era opt-out: ogni utente con profilo pubblico era incluso per default, e doveva andare nelle impostazioni per disabilitare l’uso dei propri contenuti. Non c’era notifica quando qualcuno usava il tuo account in una generazione.

La reazione

La critica si è concentrata su tre punti:

1. Rischio di abuso sessuale e truffe. McNamara (NCOSE) ha sottolineato che la feature è “uno strumento ovvio per sextortion”: generare immagini di una persona in contesti falsi (sessuali, compromettenti, illegali) diventa banale. Il rischio non è teorico: i casi di deepfake non consensuali sono già documentati e diffusi, e una feature integrata in una piattaforma con miliardi di utenti abbassa drasticamente la barriera tecnica.

2. Inversione dell’onere. L’approccio opt-out mette la responsabilità di proteggere la propria immagine sull’utente, che deve sapere della feature, trovarla nelle impostazioni e disabilitarla. Per confronto, altri sistemi (come quelli di Anthropic e OpenAI) non permettono di generare immagini di persone reali identificabili senza consenso esplicito a monte.

3. Assenza di trasparenza. Non c’era modo per un utente di sapere se e quando qualcuno aveva usato il suo account per generare un’immagine.

La Screen Actors Guild ha pubblicato una guida per i membri su come disabilitare la feature, e agenzie di rappresentanza come CAA hanno sollevato la questione direttamente con Meta. La copertura stampa (The Verge, TechCrunch, Puck News) è stata unanime nel criticare la scelta.

La ritirata

Venerdì, Meta ha aggiornato il post di lancio con questa frase: “Abbiamo sentito il feedback che questa feature ha mancato il bersaglio, quindi non è più disponibile.” La feature è stata disabilitata globalmente.

Il fatto che Meta abbia ritirato la feature in 48 ore, invece di limitarsi a cambiare il default da opt-out a opt-in, segnala che il problema non era solo l’implementazione ma il modello di consenso stesso. Dylan Byers (Puck News) ha riportato che la decisione è arrivata dopo pressioni dirette da agenzie di talento.

Cosa resta aperto

Meta non ha chiarito:

• Se le immagini generate durante le 48 ore in cui la feature era attiva sono state conservate o cancellate.
• Se i contenuti degli account pubblici usati in quel periodo sono ancora nel training set di Muse Image o se sono stati rimossi.
• Se tornerà una versione opt-in della feature o se il progetto è stato abbandonato.

Implicazioni pratiche

Se stai costruendo o decidendo su un sistema che usa contenuti di persone reali (immagini, video, voce, testo) per training o generazione:

• Opt-out non basta più per contenuti che ritraggono persone identificabili. Il rischio reputazionale e legale è troppo alto, anche se tecnicamente la policy rispetta le condizioni d’uso della piattaforma.
• La notifica conta. Anche con opt-in, un sistema che non avvisa l’utente quando i suoi contenuti vengono usati è vulnerabile.
• Il consenso deve precedere l’uso, non seguirlo: chiedere scusa dopo il lancio costa di più che progettare il consenso prima.

Questo non è un caso isolato: è il primo ritiro pubblico e rapido di una feature AI su una piattaforma consumer di questa scala, e traccia un confine che altri dovranno seguire o giustificare di aver attraversato.