Demis Hassabis, CEO di Google DeepMind, ha proposto la creazione di un’istituzione globale di controllo sull’AI con il potere di valutare i modelli frontier prima del rilascio e di coordinare un rallentamento di settore se giudicati troppo pericolosi. L’organizzazione, che Hassabis vorrebbe guidata dagli Stati Uniti, includerebbe esperti indipendenti e rappresentanti delle comunità open source.

Secondo Axios, Hassabis ha passato mesi a costruire consenso attorno alla proposta, incontrando l’amministrazione Trump, altri lab AI e funzionari europei, e punta ad avere l’organizzazione operativa entro la fine del 2026. Ha dichiarato di aver ricevuto segnali «molto positivi» dalla Casa Bianca.

Perché ti riguarda. Se l’iniziativa prende forma, chi sviluppa o usa modelli frontier dovrà confrontarsi con una governance più strutturata: valutazioni obbligatorie prima del rilascio, standard di sicurezza internazionali e possibili blocchi coordinati. Il punto è capire chi decide cosa sia “troppo rischioso” e con quali criteri—una domanda ancora aperta.

Hassabis ha firmato a giugno una dichiarazione che chiedeva protezioni più forti contro la produzione di bioarmi assistita da AI, segnale che la proposta non è retorica isolata ma parte di una strategia coerente.

Nel dettaglio

Il contesto

Non esiste ancora una regolamentazione globale specifica sull’AI, né un quadro nazionale completo negli Stati Uniti. Le iniziative finora sono state frammentarie: l’AI Act europeo si concentra su applicazioni ad alto rischio, ma non governa direttamente lo sviluppo dei modelli frontier; gli ordini esecutivi USA sotto Biden hanno introdotto obblighi di reporting per i modelli oltre certe soglie di capacità, ma senza un’istituzione dedicata ad applicarli.

Hassabis propone un modello simile alla Financial Industry Regulatory Authority (FINRA), un’organizzazione autoregolamentata ma con poteri reali: valutare i modelli prima del rilascio, definire standard condivisi e coordinare pause di settore quando serve. L’idea è che gli USA guidino, dato il loro “peso economico e tecnico”, con il coinvolgimento di altre giurisdizioni.

Cosa dicono le fonti

Il post di Hassabis, intitolato A Framework for Frontier AI and the Dawning of a New Age, inquadra l’AI generale (AGI) come probabilmente “a pochi anni di distanza” e parla della “singolarità” come orizzonte imminente. Axios riporta che la proposta ha già trovato ascolto nell’amministrazione Trump e in altri lab, ma non cita opposizioni o riserve pubbliche—il che non significa che non esistano.

La proposta arriva dopo che Hassabis ha firmato, insieme ad altri, una dichiarazione a giugno contro i rischi di bioarmi assistiti da AI, e dopo che economisti e figure del settore (fra cui Jack Clark di Anthropic ed Eric Schmidt) hanno chiesto ai governi di prendere sul serio l’impatto economico dell’AI.

Implicazioni

Se l’istituzione nasce, chi costruisce modelli oltre una certa soglia di capacità dovrà sottoporli a revisione prima del rilascio pubblico. I criteri di valutazione—cosa renda un modello “troppo pericoloso”—non sono stati ancora specificati: sarà il nodo cruciale. La proposta include rappresentanti open source, ma non è chiaro come si concilierebbe con modelli rilasciati con licenze permissive e senza controllo centralizzato.

Il timing è rilevante: GPT-5.6 è uscito da poco, Claude Fable 5 è tornato disponibile dopo il blocco export, e i modelli aperti come Soofi S o Ornith-1.0 stanno raggiungendo capacità frontier. Un watchdog con potere di blocco cambierebbe il ritmo con cui questi strumenti arrivano agli sviluppatori.

Cosa resta aperto

La proposta non spiega come l’istituzione gestirebbe i modelli open-weight già diffusi, né come imporrebbe rallentamenti in giurisdizioni che non aderiscono. Non è chiaro se i criteri di sicurezza sarebbero pubblici o riservati, né chi pagherebbe le valutazioni. E il fatto che Hassabis voglia la leadership USA potrebbe rendere più difficile il consenso internazionale, specie in un momento in cui Cina ed Europa sviluppano capacità AI proprie.