OpenAI interrumpió una operación criminal con base en Camboya que usaba ChatGPT para generar contenidos para estafas de inversión, timos románticos, juegos de azar y robo de identidad. El informe describe el uso del modelo dentro de una cadena criminal real: los estafadores lo empleaban para producir textos en múltiples idiomas, guiones para conversaciones de seducción y contenidos para sitios de corretaje falsos.

Por qué te interesa. La seguridad operativa en IA tiene un costo concreto. OpenAI tuvo que identificar patrones de abuso dentro de millones de llamadas, distinguir un usuario torpe de un operador de fraude y cerrar cuentas sin afectar falsos positivos. Si gestionas un producto con acceso a IA, el problema es el mismo a menor escala: entender dónde termina el uso legítimo y comienza el abuso, y tener un plan para cuando suceda.

Es la cara operativa de la gobernanza que OpenAI acaba de formalizar para Europa: la política cuenta cuando detiene una organización criminal, no cuando permanece como un documento.

En detalle

Las operaciones de estafa con base en Camboya y el Sudeste Asiático son un fenómeno criminal consolidado, conocido como «pig butchering»: los estafadores construyen relaciones de confianza con las víctimas durante semanas o meses, luego las llevan a invertir en plataformas falsas desde donde el dinero no regresa. La novedad en el informe de OpenAI es que ChatGPT entraba en la cadena como herramienta de producción, no como interlocutor directo de la víctima.

Los estafadores usaban el modelo para tres cosas concretas. Primero, generar guiones de conversación en múltiples idiomas: italiano, inglés, chino, tagalo, listos para pegar en los chats con las víctimas. Segundo, producir contenidos para sitios de corretaje falsos: descripciones de productos financieros, testimonios inventados, artículos de blog que daban credibilidad a las plataformas fraudulentas. Tercero, escribir mensajes de seguimiento para volver a enganchar a víctimas que habían dejado de responder.

Desde el punto de vista técnico, la detección se basa en patrones de uso anómalo. OpenAI no revela los detalles precisos de la detección (sería un manual para eludir), pero el cuadro general es el que cualquiera que gestione una API conoce: picos de volumen fuera de escala para una sola cuenta, contenidos generados en idiomas que no tienen relación con el perfil declarado, repetición de estructuras de prompt que indican un workflow de seducción. La frontera entre uso intenso y uso fraudulento es el punto difícil, y un falso positivo significa cerrar la cuenta de un cliente legítimo.

Lo que el informe no dice. No hay números sobre las víctimas, el monto de pérdidas o la cantidad de cuentas implicadas. No sabemos si los estafadores usaban la API directa, ChatGPT Plus o claves revendidas en el mercado paralelo de tokens que reportamos en julio. No sabemos cuánto tiempo tardó en identificarlos, ni si la interrupción de OpenAI detuvo realmente la operación o si los estafadores simplemente se mudaron a otro modelo.

El límite más interesante es este: cerrar una cuenta en una plataforma propietaria es factible, detener la operación criminal lo es menos. Si los estafadores tienen competencia y capital, se trasladan a modelos open-weight locales, donde ningún proveedor puede cerrarles el acceso. El informe demuestra que OpenAI puede limpiar su plataforma, no que pueda eliminar el crimen. Para quienes construyen herramientas de IA, la lección es que la seguridad operativa tiene dos caras: protege a las posibles víctimas y te protege a ti de la responsabilidad de ser el medio.