I modelli linguistici hanno un difetto imbarazzante: sanno scrivere un saggio ma sbagliano una moltiplicazione, e citano una data con sicurezza anche quando è inventata. Toolformer parte da qui e chiede: e se al modello, invece di pretendere che sappia tutto, gli insegnassimo a chiamare uno strumento quando serve, una calcolatrice per i conti, una ricerca per i fatti? Nel 2023 un gruppo di Meta (Timo Schick e colleghi) ha mostrato come farlo, e ha aperto la strada a tutto ciò che oggi chiamiamo «uso di strumenti».

Perché conta per te

Ogni volta che il tuo assistente cerca sul web, fa un calcolo esatto o legge un tuo file, sta usando uno strumento. Toolformer è il paper che ha reso questo comportamento una capacità appresa e non un trucco cablato a mano. Capirne l’idea ti aiuta a fidarti nel modo giusto: uno strumento sposta il compito da «ricordare» a «andare a prendere», e i due tipi di errore sono diversi. Un modello che calcola con una calcolatrice sbaglia meno i conti, ma può ancora chiamare lo strumento sbagliato o usarne male il risultato.

Cosa dice il paper

Il problema pratico è: come insegni a un modello a usare uno strumento senza montagne di esempi scritti a mano? La risposta di Toolformer è far preparare gli esempi al modello stesso. Partendo da pochissime dimostrazioni per ogni strumento, il modello prova a inserire chiamate (per esempio «quanto fa 12 per 40?» diventa una chiamata alla calcolatrice) in tanti punti di tanti testi. Poi si tiene solo le chiamate che aiutano davvero a prevedere il testo che segue, e si scartano le altre. Il modello viene poi riaddestrato su questi esempi filtrati, e così impara da sé quando conviene chiamare uno strumento, con quali argomenti, e come infilare il risultato nel discorso.

Gli strumenti nel paper sono cinque, di uso quotidiano: una calcolatrice, un sistema di domande e risposte, due motori di ricerca, un traduttore, un calendario. Il risultato notevole è che un modello di taglia media, dopo questo trattamento, diventa competitivo con modelli molto più grandi su una serie di compiti, senza perdere la sua capacità di scrivere. In altre parole: dare le mani giuste a un modello piccolo può valere più che ingrandirlo.

Quanto fidarsi

Il paper è una prova di fattibilità solida, e va letto per quello che è. Tre limiti dichiarati o evidenti.

La prima cosa: gli strumenti di Toolformer sono chiamati uno alla volta, in modo semplice, e il modello non incatena più strumenti né corregge la rotta se il primo risultato è sbagliato. Gli agenti di oggi fanno molto di più, ma questo è il seme, non l’albero.

La seconda: la qualità dipende dallo strumento. Una calcolatrice è deterministica e affidabile; una ricerca sul web restituisce contenuti di qualità variabile, a volte falsi o manipolati. Dare uno strumento al modello sposta il problema della verità dallo strumento, non lo elimina: bisogna comunque controllare cosa lo strumento restituisce.

La terza: sapere quando chiamare uno strumento resta imperfetto. Il modello può non chiamarlo quando servirebbe, o chiamarlo a sproposito. Il metodo migliora la decisione, non la rende infallibile.

Cosa farne

La lezione che resta: quando un compito ha una parte che una macchina fa meglio del testo (un calcolo esatto, un dato aggiornato, una conversione), la mossa giusta non è pretendere che il modello la indovini, è dargli lo strumento e istruirlo a usarlo. E quando gli dai uno strumento, definiscine bene i limiti: cosa può fare, con quali dati, e cosa deve restituirti perché tu possa controllarlo.

Cosa non concludere: che uno strumento renda il modello affidabile per magia. Il modello decide quando chiamarlo e come leggerne il risultato, e in entrambi i punti può sbagliare. Lo strumento riduce una classe di errori (i conti, i fatti obsoleti) e ne introduce un’altra (la chiamata sbagliata, il risultato mal interpretato).

Dove approfondire

Il capitolo «Dare strumenti e confini» del percorso builder trasforma questa idea in pratica: come si dà uno strumento a un agente e, soprattutto, come gli si mettono i limiti perché lo usi bene.