Meta retiró en 48 horas la feature anunciada el martes que permitía generar imágenes de IA etiquetando cualquier cuenta pública de Instagram. La feature, parte del lanzamiento de Muse Image, no requería el consentimiento del propietario de la cuenta ni lo notificaba del uso.

La reacción fue inmediata y contundente. Haley McNamara del National Center on Sexual Exploitation definió la feature como «una herramienta obvia para sextorsión y estafas», criticando el enfoque opt-out. La Screen Actors Guild publicó instrucciones para deshabilitarla y agencias de talento como CAA ejercieron presión sobre Meta.

Por qué te importa. Es el primer caso documentado de una gran plataforma que lanza una feature de generación de IA sobre imágenes de personas reales sin consentimiento previo y la retira bajo presión en dos días. El precedente es importante: si Meta se echó atrás tan rápido, significa que el límite del consentimiento explícito se está consolidando como estándar innegociable, no solo para políticas internas sino por riesgo reputacional y legal. Si estás diseñando cualquier sistema que use contenidos de otras personas para training o generación, esta es la señal de que opt-out ya no funciona.

Si quieres entender el contexto. Meta había lanzado Muse Spark 1.1 API hace pocos días con precios agresivos para atraer desarrolladores: esta feature era el intento de llevar la misma capacidad generativa dentro de Instagram para usuarios normales, pero el modelo de consentimiento elegido resultó insostenible.

En detalle

Qué había antes

Meta ya había integrado capacidades generativas de IA en Instagram y Facebook (Meta AI, disponible en chat y feed), pero hasta ahora las herramientas funcionaban con prompts textuales o imágenes cargadas por el mismo usuario. La novedad de esta feature era la referencia directa a contenidos públicos de otros usuarios mediante etiquetas: escribes un prompt, etiquetas una cuenta pública y el modelo genera una imagen que incorpora elementos visuales de esa cuenta.

El mecanismo era opt-out: cada usuario con perfil público estaba incluido por defecto y tenía que ir a configuración para deshabilitar el uso de sus contenidos. No había notificación cuando alguien usaba tu cuenta en una generación.

La reacción

La crítica se concentró en tres puntos:

1. Riesgo de abuso sexual y estafas. McNamara (NCOSE) señaló que la feature es “una herramienta obvia para sextorsión”: generar imágenes de una persona en contextos falsos (sexuales, comprometedores, ilegales) se vuelve trivial. El riesgo no es teórico: los casos de deepfakes no consentidos ya están documentados y son generalizados, y una feature integrada en una plataforma con miles de millones de usuarios reduce drásticamente la barrera técnica.

2. Inversión de la responsabilidad. El enfoque opt-out pone la responsabilidad de proteger la propia imagen en el usuario, que debe saber de la feature, encontrarla en configuración y deshabilitarla. Para comparar, otros sistemas (como los de Anthropic y OpenAI) no permiten generar imágenes de personas reales identificables sin consentimiento explícito previo.

3. Falta de transparencia. No había forma para un usuario de saber si y cuándo alguien había usado su cuenta para generar una imagen.

La Screen Actors Guild publicó una guía para sus miembros sobre cómo deshabilitar la feature, y agencias de representación como CAA plantearon el tema directamente a Meta. La cobertura de prensa (The Verge, TechCrunch, Puck News) fue unánime en criticar la decisión.

El retroceso

El viernes, Meta actualizó el post de lanzamiento con esta frase: “Hemos escuchado los comentarios de que esta feature no dio en el blanco, así que ya no está disponible.” La feature fue deshabilitada globalmente.

El hecho de que Meta retirara la feature en 48 horas, en lugar de simplemente cambiar el default de opt-out a opt-in, señala que el problema no era solo la implementación sino el modelo de consentimiento mismo. Dylan Byers (Puck News) informó que la decisión llegó después de presiones directas de agencias de talento.

Qué sigue abierto

Meta no ha aclarado:

• Si las imágenes generadas durante las 48 horas en que la feature estuvo activa fueron conservadas o eliminadas.
• Si los contenidos de las cuentas públicas usadas en ese período siguen en el training set de Muse Image o fueron removidos.
• Si volverá una versión opt-in de la feature o si el proyecto fue abandonado.

Implicaciones prácticas

Si estás construyendo o decidiendo sobre un sistema que usa contenidos de personas reales (imágenes, video, voz, texto) para training o generación:

• Opt-out ya no es suficiente para contenidos que retratan personas identificables. El riesgo reputacional y legal es demasiado alto, incluso si técnicamente la política respeta los términos de servicio de la plataforma.
• La notificación importa. Incluso con opt-in, un sistema que no avisa al usuario cuándo se usan sus contenidos es vulnerable.
• El consentimiento debe preceder al uso, no seguirlo: pedir disculpas después del lanzamiento cuesta más que diseñar el consentimiento antes.

Este no es un caso aislado: es el primer retiro público y rápido de una feature de IA en una plataforma consumer de esta escala, y traza una línea que otros tendrán que seguir o justificar haber cruzado.