Un paper su arXiv (3 agosto 2026) presenta GradCuit, un metodo che migliora il ragionamento dei modelli frontier ottimizzando i loro stati interni al momento dell’inferenza, senza riaddestrare i pesi e senza generare più token. Su tre benchmark di reasoning e cinque modelli instruction-tuned, raggiunge il 64,5% di accuratezza media: 6,6 punti sopra il chain-of-thought classico e 2,4 sopra il metodo concorrente più forte (LatentSeek).

Perché ti riguarda. La leva più usata oggi per avere risposte migliori da un modello è farlo ragionare più a lungo, cioè generare più token di passaggi intermedi. Più token, più costo. GradCuit lavora in uno spazio diverso: ottimizza vettori numerici dentro il modello prima che inizi a produrre testo. Il costo è in tempo di calcolo, non in token. Per chi costruisce agenti su modelli open-weight in locale, è una direzione di qualità che non gonfia la bolletta API.

Il metodo è anche più stabile dei predecessori. La varianza di accuratezza al variare del learning rate scende da 1,53 a 0,82, un problema reale di tecniche simili che diventano inaffidabili cambiando un parametro.

Serve accesso ai pesi del modello, cosa che le API commerciali non danno. Per ora è ricerca con codice pubblico, non un tool pronto per la produzione.

Nel dettaglio

Il chain-of-thought, di cui abbiamo parlato nel paper che ha dato il nome al trucco più usato del prompting, funziona facendo generare al modello passaggi intermedi come testo prima della risposta finale. Più lungo il ragionamento, migliore il risultato, ma ogni passo è un token che costa e che può deviare. I metodi di latent reasoning provano a fare la stessa cosa senza passare dal testo: lavorano direttamente sui vettori numerici dentro il Transformer.

GradCuit risolve un problema specifico dei metodi precedenti. Tecniche come LatentSeek collegano gli stati latenti al ragionamento attraverso i token generati, il che rende indiretto il collegamento fra l’aggiustamento dei vettori e la qualità della risposta. GradCuit inserisce stati ottimizzabili in uno strato intermedio del modello e sfrutta la self-attention causale per creare un percorso differenziale diretto: ogni token della risposta finale ha un collegamento calcolabile a ogni stato latente che lo precede. In pratica, il gradiente della risposta può tornare indietro e aggiustare i vettori latenti in modo mirato.

Un dettaglio che aiuta a capire: l’analisi di interpretabilità mostra che gli stati latenti influenzano soprattutto i token connettori del ragionamento (preposizioni, congiunzioni, parole che strutturano il flusso logico) e che gli strati più efficaci sono quelli iniziali e intermedi del Transformer, non quelli finali.

Cosa cambia e cosa no. Il risultato apre un asse di scaling diverso: invece di far generare più testo, si ottimizza lo spazio interno del modello. I limiti sono concreti. Serve accesso ai pesi e alla forward pass con gradienti, quindi niente API commerciali: occorre un modello open-weight in locale con abbastanza memoria per tenere i gradienti. Il paper testa cinque modelli instruction-tuned, ma non è chiaro come scala su modelli molto più grandi o su task fuori dai benchmark di reasoning. E un dettaglio che fa pensare: la variante random walk di GradCuit resta competitiva con LatentSeek. Se un’ottimizzazione casuale funziona quasi quanto quella mirata, la domanda su cosa stia davvero facendo il gradiente resta aperta.

Il codice è pubblico su GitHub. Per chi sperimenta con modelli open-weight e ha le risorse per girare forward pass con gradienti, è materiale da provare. Per chi lavora via API, è un segnale di direzione: il test-time reasoning si sta muovendo oltre il «genera più testo».