AWS documenta el Task-aware Knowledge Compression (TAKC), un enfoque que pre-comprime bases documentales completas en representaciones específicas para cada tipo de análisis, con caché multinivel de fidelidad y enrutamiento automático de consultas. El post incluye una implementación de código abierto.

Si alguna vez intentaste que un asistente analizara cientos de documentos para una tarea compleja (resumir factores de riesgo en 200 reportes trimestrales, encontrar contradicciones entre 50 contratos), viste dónde se rompe el RAG clásico. Recupera fragmentos relevantes para cada pregunta, pero pierde las conexiones entre documentos o llena la ventana de contexto más allá de lo legible. Como contábamos el 23 de julio, cuando quien lee es un agente, la calidad del retrieval se desplaza del documento individual al conjunto.

TAKC mueve el trabajo hacia arriba. En lugar de recuperar sobre la marcha para cada consulta, comprime la base completa para el tipo de tarea, mantiene las versiones comprimidas en caché multinivel y canaliza cada pregunta al nivel correcto. La lectura pesada ocurre una sola vez, las consultas posteriores viajan sobre las representaciones preparadas.

Es el siguiente paso práctico después de RAG, con código abierto y un blueprint probado, no una idea de un paper. El hecho de que AWS lo documente con un repositorio distribuible lo hace verificable.

En detalle

El RAG tradicional funciona así: tomas una pregunta, la transformas en un vector, buscas en la base de datos los fragmentos de documento más similares, los pegas en el prompt y dejas que el modelo responda. Para “busca el párrafo que menciona la cláusula 4.2” funciona perfecto. Pero cuando la tarea es analítica y cubre decenas o cientos de documentos, dos cosas se rompen.

Lo primero: el retrieval trae demasiado material o muy poco. Demasiado, y superas la ventana de contexto del modelo. Muy poco, y pierdes las conexiones entre documentos que necesitas para construir la respuesta.

Lo segundo: cada consulta repite el mismo trabajo. Si cien analistas hacen preguntas similares sobre los mismos documentos, el sistema recupera y relee cada vez desde cero.

TAKC cambia el punto en que se hace el trabajo. Pre-procesa la base documentale completa para tipos de tarea específicos, comprime documentos en representaciones orientadas a la tarea, los almacena en caché en niveles de fidelidad crecientes (desde resumen hasta extracción detallada) y canaliza cada consulta al nivel apropiado.

Piensa en un analista que lee todo una sola vez, prepara fichas de resumen por tema y mantiene tanto las fichas como los originales a mano. Cuando llega una pregunta, decide si el resumen basta o necesita el documento completo. El trabajo de lectura pesada se hace una vez, no por cada consulta.

El post de AWS describe la arquitectura completa, los niveles de caché y el enrutamiento, y proporciona una implementación de código abierto distribuible en tu propia infraestructura.

Las limitaciones. El post viene de AWS, que tiene interés en promover soluciones que corren en sus servicios. La implementación abierta ayuda, pero no tenemos benchmarks independientes que comparen TAKC con RAG tradicional en tareas idénticas. La pre-compresión tiene un costo inicial: requiere conocer los tipos de tarea de antemano y consume compute antes de la primera consulta. Si tus tareas son impredecibles o cambian frecuentemente, la inversión inicial podría no compensar. Y la compresión siempre introduciré alguna pérdida de información: qué tan importante es depende de tu caso concreto.

Para quienes construyen sistemas sobre corpus grandes, vale la pena leer el post y probar el repositorio. Para quienes hacen RAG a pequeña escala (algunas decenas de documentos), el problema que TAKC resuelve todavía no existe. El playbook sobre cómo hacer que documentos largos se lean sin pérdidas silenciosas sigue siendo el punto de partida práctico para quienes trabajen con esto hoy.