Un consorzio di ricerca tedesco coordinato dal KI Bundesverband ha rilasciato Soofi S 30B-A3B, un modello mixture-of-experts open source (Apache 2.0) addestrato interamente sull’AI cloud di Deutsche Telekom a Monaco. Il modello contiene 31,6 miliardi di parametri ma ne attiva solo 3,2 per token, mantenendo i costi di inferenza vicini a un modello da 3B. L’architettura ibrida Mamba-Transformer mantiene la cache di inferenza quasi costante anche su contesti lunghi (fino a 256k token), con un vantaggio decisivo su throughput e concorrenza rispetto ai modelli densi.

Perché ti riguarda. Soofi S è il primo modello aperto progettato con una quota deliberatamente alta di tedesco nel training mix (dal 7,2% al 15,3% nelle fasi successive, contro il ~5% dei modelli mainstream). Sui benchmark aggregati tedesco-inglese batte tutti i modelli completamente aperti, inclusi OLMo 3 32B e Apertus 70B, e domina ogni benchmark tedesco nel confronto diretto. È un caso pratico di sovranità digitale: un’alternativa europea open source ai modelli USA/Cina, addestrata su infrastruttura europea con dati europei, pronta per self-hosting. Se lavori su contenuti tedeschi o cerchi un modello aperto bilingue competitivo, è la prima opzione da provare.

Se vuoi provarci. Il modello è su Hugging Face come soofi-team/soofi-s-30b-a3b. Il pretraining report completo è arXiv 2607.09424.

Nel dettaglio

Il contesto

La maggior parte dei modelli open source si addestra con dati quasi interamente inglesi: nei training mix di riferimento come quello di Nvidia Nemotron, tutte le lingue non inglesi insieme pesano circa il 5%. Il risultato è che i modelli aperti competitivi in inglese crollano sulle altre lingue, incluso il tedesco, che pure è la lingua madre di 100 milioni di persone e la più parlata nell’UE. I modelli chiusi più forti (GPT, Claude, Gemini) coprono il tedesco, ma non sono disponibili per self-hosting e dipendono da datacenter USA.

Cosa cambia

Soofi S è il primo modello aperto progettato per essere bilingue dalla pretrainizzazione, con una quota crescente di tedesco che arriva al 15,3% nella seconda fase (contro il 5% tipico). Il training è distribuito su circa 27 trilioni di token in tre fasi: 20T di mix ampio (web, code, math, domini), 6T di fonti a maggiore qualità per affinare i pattern, e una terza fase breve per estendere il context a 1M token. Il tedesco arriva da HPLT, il corpus Commons, FinePDFs, FineWiki, il corpus commerciale Genios (193M articoli da 916 pubblicazioni tedesche) e testi tradotti meccanicamente o generati.

L’architettura è quella di Nvidia Nemotron 3 Nano senza modifiche: mixture-of-experts ibrida Mamba-2 + attention, 31,6B parametri totali, 3,2B attivi per token. Solo 6 dei 52 layer mantengono una cache KV che cresce col contesto; il resto usa stati a dimensione fissa. Il vantaggio pratico: a 40k token con 32 richieste parallele, Soofi S genera circa otto volte più token al secondo per GPU rispetto ai modelli densi da 14–24B, e il throughput resta piatto da 4k a 256k token mentre i modelli densi crollano. L’unico modello con comportamento simile nel test è Qwen3.5 35B-A3B, anch’esso ibrido.

I numeri

Sui benchmark aggregati inglese-tedesco, Soofi S batte tutti i modelli completamente open source, inclusi OLMo 3 32B (Allen Institute) e Apertus 70B (ETH/EPFL). Su ogni benchmark tedesco nel confronto, Soofi S prende il primo posto, a volte con margini a due cifre. Su code: 73,8% HumanEval, 70,2% MBPP, 84,2% MBPP-DE (variante tedesca), i migliori risultati fra i modelli aperti. Su INCLUDE-DE (conoscenza regionale tedesca) pareggia Qwen3.5 35B-A3B a 61,2 punti. Rispetto al baseline Nemotron, la ricetta dati tedesca guadagna 15,1 punti su lingua e 9,6 su GPQA-Diamond (scienza), senza perdere in inglese. Il punto debole è la matematica da competizione tedesca (56 punti su Minerva MATH-DE), dove resta sotto i leader.

Le implicazioni

È il primo caso di modello open source addestrato interamente su cloud europeo (Deutsche Telekom, Monaco) con dati pesati per una lingua non inglese, e che dimostra prestazioni competitive bilingui. La licenza Apache lo rende utilizzabile in produzione, anche commerciale, senza dipendere da API USA o cinesi. Per chi lavora su contenuti tedeschi o vuole un modello aperto bilingue self-hostabile, è la prima opzione da valutare. Per chi costruisce servizi su dati europei, è un segnale che la sovranità digitale nell’AI può reggere sul piano tecnico, non solo politico.

I limiti

Il confronto è con modelli open source: i modelli chiusi top (GPT-5.6, Claude Opus 4.8) restano davanti in assoluto. Soofi S ha 31,6B parametri totali ma ne attiva solo 3,2B per token: il comportamento è più vicino a un modello da 3B che a uno da 30B su task che richiedono tutta la capacità in parallelo. Il report non copre valutazioni su sicurezza, bias o robustezza contro prompt injection. La matematica da competizione in tedesco resta un punto debole noto.