Thinking Machines Lab ha rilasciato Inkling, il primo modello della compagnia fondata da Mira Murati (ex CTO di OpenAI): 975 miliardi di parametri totali, 41 miliardi attivi in architettura Mixture-of-Experts, licenza Apache 2.0, multimodale (testo, immagine, audio in input, testo in output), fino a 1 milione di token di contesto. Come raccontavamo il 17 luglio, il modello era già uscito; ora TechCrunch aggiunge i dettagli sul round di finanziamento e sulla visione strategica.

Perché ti riguarda. Thinking Machines ha raccolto $300 milioni in fase pre-seed e portato il modello dal pretraining al rilascio in nove mesi (OpenAI ci mise cinque anni, Anthropic tre). La tesi dietro Inkling: i modelli generici one-size-fits-all venduti come servizio chiuso sottoperformano rispetto a modelli che le organizzazioni adattano da sé. Inkling non compete sui benchmark generali — l’azienda lo dichiara esplicitamente — ma punta a essere il punto di partenza per fine-tuning su Tinker, la piattaforma di customizzazione del modello. Chi adatta diventa responsabile della sicurezza delle proprie versioni (e serve talento ML serio). Il caso Bridgewater è l’argomento concreto: un modello aperto addestrato su expertise finanziaria interna ha battuto i modelli proprietari top su reasoning finanziario costando un quattordicesimo. I numeri vengono però da una valutazione interna, non indipendente.

La distillazione. Thinking Machines ha pre-addestrato Inkling da zero su 45 trilioni di token, ma ha usato altri modelli open-weight (fra cui Kimi K2.5 di Moonshot AI) per generare parte dei dati di post-training prima che il reinforcement learning su larga scala prendesse il sopravvento. È una forma di distillazione limitata al post-training, dichiarata nei materiali di rilascio.

Nel dettaglio

Il contesto: nove mesi contro cinque anni.

OpenAI ha impiegato circa cinque anni per portare la propria tecnologia sul mercato e mostrare ricavi; Anthropic circa tre. Thinking Machines dichiara di aver fatto lo stesso in nove mesi: dal pretraining al rilascio pubblico con ecosistema di supporto day-0 (vLLM, SGLang, Modal, Baseten, Databricks, Hugging Face, quantizzazione community). Il round pre-seed da $300 milioni è insolito per dimensione e fase: tipicamente un pre-seed è ordini di grandezza più piccolo.

Il modello è 975B parametri totali, 41B attivi (Mixture-of-Experts), addestrato su 45 trilioni di token (secondo i lettori dei materiali di rilascio; una fonte dice 48T, la maggioranza 45T). Supporta fino a 1M token di contesto nei checkpoint open-weights, ma l’API su Tinker offre 256K (con prezzi differenziati per 64K e 256K). Output solo testo per ora, ma input multimodale (testo, immagine, audio).

La tesi: customizzazione batte generalità.

Thinking Machines sostiene che l’AI addestrata centralmente da un laboratorio e poi congelata sottoperforma rispetto all’AI che le organizzazioni modellano da sé, perché molta expertise è specifica e vive nelle persone che la detengono. Inkling è progettato come foundation model da fine-tunare, non come chatbot general-purpose già finito. La compagnia dichiara esplicitamente che Inkling non è il modello più forte disponibile oggi, né aperto né chiuso. L’obiettivo è performance bilanciata e adattabilità.

Il caso concreto citato è Bridgewater Associates (il più grande hedge fund al mondo, che non è investitore di Thinking Machines): hanno preso un modello open source esistente e lo hanno addestrato ulteriormente su expertise finanziaria interna. Risultato: 84,7% su test di reasoning finanziario, battendo i modelli proprietari top, con costi di inferenza circa un quattordicesimo di quelli dei modelli chiusi. I numeri vengono da una valutazione congiunta Thinking Machines–Bridgewater, non da benchmark indipendenti.

Gli argomenti contro i modelli chiusi.

Il post pubblicato da Thinking Machines la settimana prima del rilascio preparava il terreno: l’AI addestrata centralmente e poi fissata sottoperforma perché non cattura la conoscenza specifica delle organizzazioni. Altri stanno convergendo su argomenti simili. Satya Nadella (CEO Microsoft, investitore miliardario in OpenAI e Anthropic) ha scritto domenica che le aziende che usano modelli proprietari pagano due volte: una volta in abbonamenti, una seconda cedendo la conoscenza aziendale incorporata nei prompt e nelle correzioni, che può finire nelle versioni future dei modelli. Clem Delangue (CEO Hugging Face) ha detto a TechCrunch la settimana scorsa che i modelli frontier resteranno per sperimentazione e task ad alto valore, mentre il grosso del lavoro di produzione AI si sposterà su alternative private o open source — esattamente lo split su cui Thinking Machines sta costruendo.

Distillazione e trasparenza.

Thinking Machines dichiara di aver pre-addestrato Inkling da zero, ma ha usato altri modelli open-weight (fra cui Kimi K2.5 di Moonshot AI) per generare parte dei dati di post-training iniziali, prima che il reinforcement learning su larga scala diventasse il metodo principale. È una forma di distillazione limitata al post-training e dichiarata nei materiali. Non è distillazione dai modelli proprietari concorrenti (pratica che ha attirato scrutinio nell’industria), ma da altri modelli aperti.

Ecosystem support e benchmark.

Inkling è uscito con supporto immediato su vLLM, SGLang, Modal, Baseten, Databricks, Hugging Face, e community tooling per quantizzazione (grazie a @danielhanchen). Commentatori indipendenti lo hanno etichettato come il modello open-weight USA più forte finora, ma generalmente dietro i migliori modelli open-weight cinesi e i migliori modelli chiusi su alcuni benchmark. Artificial Analysis lo posiziona primo fra i modelli open-weight USA sull’Intelligence Index, ma dietro ai top cinesi.

Inkling supporta controllable reasoning effort (livelli numerici di sforzo) e fino a 1M token di contesto nei checkpoint. L’azienda dichiara che su un benchmark di coding, Inkling usa un terzo dei token di Nvidia Nemotron 3 Ultra per arrivare alla stessa performance.

Implicazioni per chi costruisce.

Se la tesi regge, il modello di business si sposta: invece di pagare per accesso API a un modello generico chiuso, paghi una volta per compute e talento ML per addestrare un modello aperto sui tuoi dati, poi inferenza a costo marginale più basso. Richiede però capacità ML interne serie: fine-tuning non è configurazione, e la responsabilità della sicurezza delle versioni customizzate ricade sull’organizzazione. Non tutti hanno quei team.

Per i laboratori chiusi, la pressione aumenta: se Nadella (investitore miliardario in OpenAI) dice pubblicamente che i modelli proprietari ti fanno pagare due volte, il messaggio ai CTO è chiaro. La contro-argomentazione rimane: i modelli chiusi funzionano subito, senza assumere un team ML. La battaglia è su quale friction pesa di più: pagare l’abbonamento o assumere gli ingegneri.