I modelli open-weight di cui parla spesso il radar si possono scaricare e far girare sul tuo computer, gratis e senza mandare un byte fuori. I due strumenti che hanno reso la cosa accessibile sono Ollama (dal terminale: un comando per scaricare un modello, uno per parlarci) e LM Studio (un’applicazione con interfaccia: catalogo, download, chat, tutto cliccabile). Entrambi gratuiti.

La domanda giusta prima: perché?

Tre ragioni reggono, le altre di solito no. I dati che non possono uscire: con un modello locale il testo non lascia la macchina, fine della discussione su cloud e policy. I volumi: se un compito macina milioni di token al giorno, l’API più economica costa comunque, e un modello locale ammortizza l’hardware. Il capire: far girare un modello in casa insegna sulla natura di questi sistemi più di dieci articoli. Se invece cerchi solo la qualità massima, la risposta onesta è che i modelli di frontiera non girano su un portatile: il locale si sceglie per i vincoli, e la qualità si compra in dimensione del modello e quindi in hardware.

Cosa serve davvero

La variabile è la dimensione del modello, e la memoria è il collo di bottiglia. I numeri dichiarati dai progetti: Ollama indica 8 GB di RAM per i modelli da 7 miliardi di parametri, 16 per i 13B, 32 per i 33B (repo ufficiale, verificato il 19/07/2026); LM Studio consiglia 16 GB di RAM e almeno 4 GB di GPU (requisiti ufficiali, stessa data). La pratica: un portatile recente con 16 GB fa girare bene i modelli piccoli (fino a ~14B quantizzati), che oggi sono sorprendentemente capaci sui compiti delimitati; i modelli grandi (70B e oltre) vogliono workstation con 48-64 GB o GPU dedicate, e lì il conto va fatto contro il costo delle API.

Come si combinano col resto

Il pezzo interessante è che gli strumenti locali parlano la stessa lingua delle API: LM Studio e Ollama espongono un endpoint compatibile, quindi un agente come OpenCode può usare il modello locale come motore, e il metodo dei tuoi casi resta identico: stesso banco di prova, modello locale al posto di quello remoto, e vedi coi tuoi occhi se per il tuo compito basta.

I limiti, detti chiari

La qualità per gigabyte è la vera tassa: un modello che sta in 16 GB non è un modello di frontiera, e su compiti aperti la differenza si sente. La velocità su CPU pura è modesta; l’esperienza fluida vuole una GPU o un Mac con memoria unificata. E la manutenzione è tua: versioni, quantizzazioni, aggiornamenti.

Collaudo: scheda descrittiva; requisiti hardware verificati sulle fonti ufficiali il 19/07/2026, nessuna procedura operativa inclusa. Il giro completo su una macchina con specifiche dichiarate (come chiede il piano editoriale) resta da fare: questo container non è la macchina giusta per un numero onesto di token al secondo.