Dos cosas suceden a la vez. LiquidAI publica dos encoders, LFM2.5-Encoder-230M y 350M, que procesan contextos largos en CPU a una velocidad 3,7 veces superior a ModernBERT-base. Anthropic, por su parte, formaliza Claude Fable 5 como modelo permanente en los planes Max y Team Premium, al 50% de los límites, cerrando semanas de prórogas temporales (como lo contábamos el 18 de julio).

Por qué te importa

Si tienes tareas que corren todo el día (enrutamiento de intenciones, filtros de políticas, detectores de PII), un encoder fine-tuned en CPU cuesta una fracción de un LLM en la nube y se cierra en segundos. LFM2.5-Encoder-230M escanea un contrato completo o un thread de soporte largo en menos de 30 segundos en un portátil. Donde ModernBERT-base necesita un minuto y medio.

En el frente de suscripciones, la estabilización de Fable 5 le da a quien usa Claude Max o Team Premium un modelo predeterminado confiable. Nada de renegociaciones mensuales con OpenAI por GPT-5.6: la decisión se traslada del marketing al costo por output verificado.

Si quieres probarlo

Los modelos están en Hugging Face con demos en vivo en espacios solo CPU: enrutamiento de prompts zero-shot, linting de políticas, detección de PII en 16 idiomas.

En detalle

El mercado de la inferencia se está bifurcando. Por un lado, los modelos frontier (GPT-5.6, Claude Fable 5) compiten por potencia y costo por suscripción. Por otro, modelos especializados y pequeños, que corren en hardware que ya tienes, resuelven tareas repetitivas sin la nube.

LFM2.5-Encoders nace de LiquidAI, no de Anthropic. Son dos encoders (230M y 350M parámetros) construidos sobre la arquitectura LFM2, la misma de los retrievers lanzados el mes pasado. El paso de decoder a encoder ocurre con tres cambios: atención bidireccional (cada token mira a derecha e izquierda), convoluciones no causales con padding simétrico, y masked language modeling con el 30% de tokens ocultos durante el entrenamiento.

El entrenamiento tiene dos fases. Primero competencia general en contexto corto (1.024 tokens), luego adaptación a contexto largo (8.192 tokens) en datos multilingües, legales y factuales. En los benchmarks GLUE y SuperGLUE, LFM2.5-Encoder-350M se clasifica cuarto de 14 modelos, superando encoders diez veces más grandes. El 230M supera ModernBERT-base y todos los EuroBERT, siendo más pequeño que la mayoría de ellos.

La velocidad en CPU es el punto decisivo. A 8.192 tokens, ModernBERT-base necesita más de 90 segundos para el forward pass. LFM2.5-Encoder-230M necesita 28: 3,7 veces más rápido. En GPU la ventaja existe pero es menor, manifestándose solo por encima de 2.000 tokens.

Las demos en vivo en Hugging Face muestran qué puedes construir: enrutamiento de prompts zero-shot (defines las vías como texto libre, el modelo asigna cada prompt a la correcta en un solo paso), linting de políticas (revisa un texto contra reglas empresariales escritas en lenguaje natural), spell checking token por token, y detección de PII con 40 categorías de información personal en 16 idiomas.

Para quien construye agentes, esto significa que las tareas de comprensión de texto (enrutamiento, clasificación, extracción, scoring) pueden correr localmente, sin latencia de red y sin costo por token. El lugar natural es en la capa de pre-procesamiento: primero el encoder decide si necesitas el modelo grande, luego lo llama solo cuando es necesario (como hace Cactus Hybrid con sondas de confianza).

La estabilidad de Fable 5 en los planes de Anthropic responde a una presión diferente. GPT-5.6 ha impuesto un ritmo de actualizaciones que obliga a quien gestiona suscripciones a renegociar cada mes. Fijar Fable 5 como permanente, incluso al 50% de los límites, da a los clientes enterprise un punto de referencia estable. El trade-off es claro: menos capacidad respecto al top, pero previsibilidad.

Las limitaciones: los benchmarks son declarados por LiquidAI misma, con framework open-source pero mediciones internas. Los modelos son nuevos, nadie los ha estresado aún en producción con cargas reales durante semanas. La velocidad en CPU depende del procesador específico: los números citados son promedios, no garantías para cada hardware. La afirmación sobre Fable 5 permanente al 50% de los límites se confirma en el artículo del 18 de julio pero no tiene fuente primaria entre los items recopilados en esta ronda.